La noticia apareció en todos los
portales: Jianwei Xun, el filósofo hongkonés, autor de Hipnocracia. Trump, Musk y la nueva arquitectura de la realidad,
para muchos, el libro del año, es una Inteligencia Artificial (IA).
En el medio pasaron entrevistas,
citas varias en artículos periodísticos y reseñas del libro en medios europeos
y americanos, hasta que la revista L’Espresso reveló en
exclusiva en su portada que, este buen señor, en realidad, no existe.
Ahora bien, naturalmente, detrás de
este episodio hay al menos un responsable y en la revista Le Grand Continent, Jianwei Xun, o quien está detrás de él, brindó
una entrevista dando precisiones al respecto:
“Jianwei Xun es un dispositivo. La
creación colaborativa nacida del diálogo entre una inteligencia humana –que
lleva el nombre de Andrea Colamedici, un filósofo italiano que fundó junto con
otros un [proyecto editorial] italiano, Tlon- y ciertas inteligencias
artificiales generativas, en particular Claude de Anthropic y ChatGPT de
OpenAI”.
Dicho más simple, quien está detrás
del proyecto es Andrea Colamedici y lo que habría hecho es interactuar con
inteligencias artificiales generativas para crear este libro. Según Colamedici,
entonces, el libro no es simplemente una creación de una IA como ya existen de
a miles en Amazon, sino “una voz que no pertenece ni a la carne ni al silicio”,
una voz que está en el medio, en un espacio liminar entre ambos.
En la misma entrevista, Xun
(Colamedici) aclara cómo fue el proceso: primero se trató de crear un corpus
filosófico basado en la propia obra de Colamedici, a partir del cual establecer
un diálogo mayéutico con las IA, de sucesivas preguntas, respuestas y
repreguntas, cuyo resultado fue la creación del concepto de hipnocracia, esto
es, un régimen de manipulación que capta la atención y produce una sugestión
hipnótica actuando directamente sobre la conciencia de manera constante y
personalizada, régimen propio de estos tiempos cuyos principales abanderados
serían Trump y Musk.
En paralelo, Colamedici creó una
infraestructura digital como para darle entidad, verosimilitud y legitimación
mediática: un sitio web personal, un perfil en Academia.edu, referencias
estratégicas en los perfiles de Wikipedia de autores como Deleuze o Byung-Chul
Han y hasta un agente literario falso que intermediaba con periodistas y
editores.
Por último, en complicidad con
colegas y amigos con cierto predicamento social y participación en los medios,
diagramó una estrategia de difusión que supusiera citas y comentarios de estos en
artículos y redes sociales hablando de la hipnocracia y del libro que vio la
luz en italiano y en inglés el 15 de enero de 2025.
Este tipo de revelaciones nos lleva
naturalmente a reconocidos casos Fake
vinculados a la academia y al ámbito científico. La referencia obligada en este
sentido es el famoso “Affaire Sokal”.
Para quienes no lo recuerden, Alan Sokal es un físico que
se propuso exponer el sinsentido de las tesis relativistas, particularmente de
moda en el campo de las ciencias sociales, derivadas de ciertas lecturas de
referentes de la Escuela de Frankfurt y de los posestructuralistas franceses.
El método que utilizó para el desenmascaramiento fue escribir un artículo y
enviarlo a una prestigiosa revista. El núcleo del artículo era la defensa de la
tesis principal de sus adversarios, esto es: la ciencia, con sus métodos de
corroboración y legitimación, no es más que una construcción social y
lingüística impuesta por la ideología dominante.
El artículo fue publicado, es decir, pasó la revisión
entre pares y los mecanismos de legitimación de las revistas científicas de
prestigio y, allí, Sokal reveló, en un segundo artículo que naturalmente
aquella revista no quiso publicar, qué era lo que había hecho y cuáles eran sus
razones. Entonces, expresó que había utilizado conceptos de la matemática y la
física cuántica mezclados con citas de filósofos posmodernos reconocidos para
realizar una parodia y exponer la falta de rigurosidad de este tipo de
publicaciones y de este tipo de autores. En otras palabras, exponía que en el
caso de las ciencias sociales bastaba con ofrecer ideas pretendidamente
críticas en una jerga oscura, tan imprecisa como compleja, para gozar de cierto
status académico y, eventualmente, llegar a ser una celebridad en el mundo
intelectual. La lista de nombres sobra y, lo peor, en muchos casos, seguimos
leyendo a esos autores como si dijeran algo.
Un episodio similar, aunque menos conocido, ocurrió en
2018: el “Grievance Studies affaire”. En este caso, quienes
llevaron adelante el fraude fueron Peter Boghossian (profesor de Filosofía de
la Universidad de Portland), James Lindsay, (doctor en Matemáticas de la
Universidad de Tennessee) y Helen Pluckrose, (editora de la revista Areo).
En este caso, los perpetradores fueron más prolíficos y enviaron 20 artículos a
prestigiosas revistas de estudios culturales, donde deliberadamente se
incluyeron afirmaciones y tesis delirantes que parodiaban esa confusión tan
habitual entre activismo y academia que suele basarse en tesis posmodernas
asociadas, en muchos casos, a políticas identitarias, progresismo woke y
derivas varias.
En
esos textos se hallaba desde la necesidad de imponer unos juegos olímpicos para
personas con sobrepeso, hasta promover la masturbación anal masculina con
dildos como una práctica antitransfóbica, y el descubrimiento de una conexión
entre el pene y el cambio climático. Como si esto fuera poco, en un caso, los
autores lograron que una revista feminista les publicara un artículo en el que
reescribían un fragmento de Mein Kampf con perspectiva de
género sin que nadie del comité de evaluadores lo notara, lo cual, por cierto,
es un dato elocuente. Al momento en que los autores revelaron el fraude, 4 de
esos artículos fueron publicados, 3 estaban a punto de serlo, 7 estaban en
proceso de aceptación y apenas 6 (el 30%) habían sido rechazados.
Ahora
bien, ¿es el caso de Jianwei Xun similar a los recién mencionados? Por supuesto
que hay puntos en común, pero se imponen las diferencias sustantivas.
En
común podría encontrarse una cierta crítica a los mecanismos de legitimación:
si en los casos de Sokal y en el de los Grievance Studies, se trataba no solo de una crítica al
contenido relativista e irracional de algunas posturas posmodernas sino, al mismo
tiempo, de exponer el modo en que estos delirios estaban siendo legitimados por
el sistema científico, a Colamedici le alcanzó con un par de amigos, una página
web, un perfil en Academia.edu y un libro cuyo armado quizás le haya demandado
algunas horas, para exponer los métodos de legitimación del periodismo cultural
y las editoriales.
Sin embargo, hay una diferencia relevante: el
contenido del libro no es irracional ni es un disparate carente de fundamentos
creado adrede.
De hecho, podría decirse que su tesis principal o
la categoría que da título al libro, no hace más que rejuntar información y
teorías (justamente, lo que las IA hacen muy bien) a las que se les da un nuevo
nombre (seguramente invención de Colamedici). Al fin de cuentas se trata de una
versión, bien elaborada, claro, de las nuevas formas de manipulación, en este
caso introduciendo la idea de la hipnosis como elemento que actúa directamente
sobre la conciencia en tanto el poder ya no controla cuerpos ni reprime los
pensamientos, sino que los induce, transformándose así en un poder
“positivo”.
Xun
(Colamedici) dice en la entrevista:
“Ya no
hay una narrativa unificadora a través de la cual dar sentido al mundo. Nos
encontramos —ustedes se encuentran— en un espacio fragmentado donde
innumerables historias compiten por un dominio efímero, y cada una se proclama
como la verdad última.
Estos
relatos no dialogan: chocan. Se superponen y se reflejan hasta el infinito,
creando una vertiginosa galería de espejos donde realidad y simulación se
vuelven sinónimos. Trump y Musk son los profetas de este régimen (…)
El
hitlerismo que Bloch analizaba operaba a través de un trance centralizado,
orquestado por un líder carismático que servía de punto focal para la sugestión
colectiva. La dimensión algorítmica ha descentralizado esta función hipnótica:
ya no tenemos un único hipnotizador que manipula a una masa homogénea, un
director de orquesta, sino un ecosistema distribuido de algoritmos que modulan
individualmente estados de conciencia personalizados (…)”.
El ya
mencionado Byung-Chul Han, Foucault, Baudrillard, Deleuze, Da Empoli y muchos
otros resuenan detrás de estas palabras y está muy bien que así sea. Y hablando
de citas, dado que el proyecto editorial de Colamedici se llama Tlon, en obvia
relación a Tlön, Uqbar, Orbis Tertius, el famoso cuento de Jorge Luis Borges,
Xun (Colamedici) cita dicho texto, (aunque sin mencionar al autor, ¿quizás
creyendo que ya es una frase que le pertenece al ChatGPT?), cuando afirma “Son
dispositivos narrativos. Sus relatos no buscan la verdad, sino el asombro.
Consideran la metafísica como una rama de la literatura fantástica”.
A
propósito de dicho cuento, hay algo tlöniano en este episodio puesto que, como
ustedes recordarán, Tlön era un planeta inventado por una secta de seguidores
de Berkeley incluido en una reimpresión de la Enciclopedia Británica, en el
cual, por tratarse de un mundo regido por las máximas del empirismo idealista
que considera que las cosas deben ser percibidas para existir, la psicología es
la única disciplina y lo que llamamos “realidad” no es más que una serie de
procesos mentales. Allí, la realidad de los objetos depende de la percepción y
la expectativa del sujeto que los percibe, de modo que un mismo objeto puede
“duplicarse” al ser percibido por dos sujetos diferentes, generando, al fin de
cuentas, mundos individuales, personalizados y a medida, como los que ofrecen
los algoritmos en la actualidad. El dúo Xun/Colamedici y su hipnocracia tienen
mucho de esto, sin duda.
Ahora
bien, donde el experimento parece aportar algo más al debate es en lo que
respecta a la noción de autor y, quizás sin desearlo, al harto trillado debate
acerca de la posibilidad de separar la obra del autor. En este sentido, en la
entrevista le preguntan si el hecho de haber sido una creación de una IA
invalida el contenido de la tesis de la hipnocracia:
“La revelación de mi
naturaleza construida no invalida en absoluto la validez analítica del concepto
de hipnocracia. Al contrario, la refuerza al conferirle una dimensión
performativa que trasciende la simple argumentación teórica. Si aceptáramos la
idea de que la validez de un pensamiento depende exclusivamente de la
existencia biológica de su presunto autor, caeríamos precisamente en esa lógica
identitaria que la hipnocracia ha superado (…)”.
Efectivamente, de la misma manera
que el valor de una categoría analítica no depende del hecho de que el que la
formule sea una entidad biológica o una inteligencia humana, es difícil decirlo,
pero hay que aceptarlo, tampoco lo invalidaría la moralidad, en el caso de que
el autor sí fuera una entidad biológica propietaria de una inteligencia humana.
Es tan evidente la respuesta al debate sobre la separación de la obra y el
autor… sin embargo este ejemplo puede aportar algo más de claridad, para dolor
de los amantes de la cancelación y sus patrullas de moralidad.
En cuanto a la noción de autor,
claramente parecemos entrar en una etapa que va a redefinirlo desde todo punto
de vista, incluso desde lo legal. ¿Es Colamedici el autor? ¿Es el ChatGPT? ¿Son
ambos como dice Colamedici? ¿Qué aporta Colamedici para que lo consideremos un
autor en el sentido que solemos darle al término? ¿Hacerle preguntas e interactuar
con una IA para pedirle luego que escriba un libro nos transforma en autor de
algo? La respuesta no parece sencilla.
En síntesis, el caso Jianwei Xun
solo puede ser incluido en la lista de fakes
y affaires de manera parcial y solo
en tanto, de alguna manera, denuncia, como efecto colateral, los patrones de
legitimación de la industria y el periodismo cultural. Sin embargo, no estamos
ante un fake como los denunciados por
Sokal, Boghossian y otros: aquí hay un libro y una categoría que tiene
fundamentos. Desde mi punto de vista, criticables y sesgados, pues resulta
insólito plantear que los principales referentes de un régimen de hipnosis que
opera sobre la conciencia de manera personalizada son Trump y Musk. Pero en
todo caso es materia de discusión para la cual Xun (Colamedici) ofrecerá sus
argumentos, mejores o peores, pero no un rejunte de delirios posmodernos
inconsistentes solo validables por sectas universitarias.
Quizás
en el futuro junto a citas de Shakespeare habrá que afirmar “como dice el
ChatGPT, la hipnocracia…”. Sí, suena escalofriante, pero hemos ingresado en una
etapa en la que usaremos categorías elaboradas por inteligencias no humanas. El
cambio será, probablemente, demasiado vertiginoso para que podamos digerirlo
adecuadamente. Mientras tanto, si lo que nos importa es el qué antes que el
quién y la inteligencia no humana demuestra rigor lógico y una correcta
fundamentación, parece difícil encontrar argumentos para oponerse.