Uno de los ensayos que se publicaron el año pasado más celebrados fue Hipnocracia del poco o nada conocido hasta entonces filósofo chino Janwei Xun, que analizaba la manipulación algorítmica y la construcción de la realidad en la era digital. Su éxito fue fulgurante. Periódicos internacionales como Le Monde o The New York Times celebraron su publicación como Libro del Año. El libro se tradujo a varios idiomas y su autor fue entrevistado.
La publicación de Hipnocracia se produjo en enero de 2025. En abril el filósofo italiano Andrea Colamedici reveló que Janwei Xun no existía. Sonaba un poco a aquello que dijo Balzac de “Madame Bovary soy yo”. Vamos que venía a decirnos que Janwei Xun era él, una creación suya, aunque no exactamente, porque era una interacción entre la IA y él.
En este vídeo Colamedici nos habla del asunto, y confiesa su odi et amo a la tecnología. Dice literalmente que ama la tecnología tanto como la odia, y critica que en general los usuarios de la IA no estamos adaptando esta a nuestra vida, sino al revés: estamos adaptando nuestra vida a la IA, que te sugiere qué música escuchar, qué vídeos o películas ver... según tus gustos, que ella conoce mejor que tú. Te dice hasta lo que tienes que pensar, con lo que no tienes que elegir nada, ya que ella elige por ti.
A este estado de cosas le ha dado en llamar “hipnocracia”, es decir, “gobierno -ya dijimos en otra parte que todas las cracias son deleznables salvo una, que era la acracia o ausencia de gobierno- del sueño, es decir, del amodorramiento, del sueño hipnótico, no del onírico.
En castellano la palabra 'sueño' confunde los dos sentidos que los griegos distinguían perfectamente: hipno- (sleeping, sommeil) y oniro- (dreaming, rêve). De ahí que la célebre frase de Goya “el sueño de la razón produce monstruos” se haya interpretado a veces ambiguamente, y no como pretendía probablemente su autor en el sentido de que el adormecimiento de la razón era el generador de monstruos...
En el vídeo adjunto Andres Colamedicii entre otras cosas que la hipnocracia es el primer régimen de la historia que no necesita controlar los cuerpos. No censura, satura. No reprime los pensamientos, los orienta. No nos dice qué pensar, nos dice en qué pensar, dictándonos la agenda. Es un imperialismo cognitivo, no es una teoría. La hipnocracia es el aire que respiramos cada vez que abrimos CHAT GPT, que es un sistema entrenado con nuestros propios datos, con los textos que hemos escrito...
La IA no es un oráculo. El problema es que está programada para darte siempre la razón, lo que se ha denominado sicofantía, que es la tendencia propia en la antigüedad de los sicofantas o denunciadores de venta de higos y en la actualidad de los grandes modelos de lenguaje a adaptar, exagerar o validar las opiniones, creencias y expectativas del usuario, dándole siempre la razón aunque esté equivocado, un servilismo o adulación interesados.
Quizá lo más interesante de lo que dice Colamedici en el vídeo es que la IA es un fármaco, en el doble sentido de “veneno” y “cura”, de ahí su odio y su amor por el invento, o como dicen los modernos un hater y un lover, y, según él, se puede hacer un uso inteligente de la Inteligencia Artificial, aunque parezca un oximoro, si se la confronta consigo misma.
Hace poco ha saltado a la prensa el caso de la novela Donde el agua trabaja de David Silva Rojas, ganadora de un primer premio internacional de novela breve en castellano. Un jurado competente eligió esa novela entre dos mil manuscritos presentados. Pero sometida a Pangram se descubrió que la novela estaba escrita en un 99% por la IA. Las bases del concurso prohibían expresamente la utilización de esta herramienta.
El problema que plantea este caso es el valor de la procedencia de un texto. En el caso de la novela, está claro que es un fraude porque el concurso exigía que la novela no hubiera sido creada por la inteligencia artificial, pero eso no le quita valor literario o narrativo. Alguien como Colamedici puede utilizar la IA interaccionando con ella y crear algo intrínsecamente valioso. La descalificación de un texto no debe hacerse en función de su creación, sino del propio texto. Por otra parte, nosotros escribimos mal, hasta los que mejor escriben, la mayoría de las veces. No es lo mismo utilizar la IA como asistencia que como generación. En todo caso no nos hace falta la IA para saber si una creación de cualquier tipo es buena o es mala, porque lo importante no es quién lo dice, sino lo que dice.