Nexus o las tecnologías de la abolición de lo humano

En Nexus, del escritor e historiador israelí Yuval Noah Harari, se habla en la primera parte de las narrativas humanas filtradas por las tecnologías de la información para obtener poder, a través del orden, en detrimento de la verdad.

El poder, de acuerdo con el libro, se mantiene por los mecanismos de autocorrección del propio sistema; en el caso de una democracia, los diferentes Poderes constituidos con independencia (Legislativo, Judicial) tienen esa función.

La segunda parte del título habla de las redes de comunicación en torno al presente y el futuro de la inteligencia artificial (IA) generativa. Se toma por cierto que las sociedades actuales funcionan gracias a las modernas tecnologías, que actúan como bocinas  de relatos coercitivos.

El texto plantea cómo, a partir de tecnologías como las tablas de arcilla, el libro, la imprenta, la radio y la computadora, ha sido posible comunicar determinadas narrativas, generalmente provenientes de la élite en el poder, cada vez a un mayor número de individuos.

Pero, puede haber infección en la red de comunicación, por sus mecanismos deficientes de autocorrección; de acuerdo con Harari, una de ellas fue la cacería de brujas en la Edad Media y, hoy en día, la expansión de los gobiernos populistas que, con líneas simples, unifican narrativas de sociedades, en las que se repliega y repele al otro.

La narrativa central de Nexus está en la proliferación de las fantasías del Malleus Maleficarum, de Enrique Kramer, best seller producto de la imprenta en la Edad Media. El sistema fue permeable a los deseos perversos de las personas. Falló el sistema de autocorrección.

En el libro se demuestra que la IA es capaz de generar las narrativas que posibilitarán el poder y el control de la población. Para ello se explica con detalle cómo han ocurrido estas infecciones de la red inteligente, en el caso de Myanmar y la masacre azuzada por el algoritmo de Facebook, que tiene como máxima “optimizar el tiempo de los usuarios”. Esta premisa lleva a aberraciones como privilegiar contenidos morbosos y agresivos para que los usuarios permanezcan en la red social.

El planteamiento de Nexus es polémico, dado que no profundiza en aspectos importantes de la condición humana. Las personas quedan reducidas a ideas sin cuerpos: no se habla de los cambios profundos que ocasionan estos sistemas en la psique y, quizá, en el cuerpo humano.

Nexus es un libro utilitarista que imagina un futuro narrado por las máquinas, manipulado por los algoritmos y sus creadores, del que hay que defenderse con un eficiente sistema de autocorrección. Deja de lado que los impulsores de esas tecnologías están lucrando con nosotros para llevarnos al vaciamiento de la conciencia y a la pérdida de lo que nos hace humanos.

La televisión se olvida como medio de comunicación en el libro y la definición de inteligencia se asume simplemente como diferente de la conciencia.

El libro obvia que el lenguaje, como asegura Éric Sadin, central para los actuales sistemas de inteligencia artificial generativa, es simbólico y que no necesariamente abarca la totalidad de lo real; y, si eso fuera posible, no será para las máquinas como ganar en un juego de go o de ajedrez, dado que con los constructos del lenguaje no se pierde o se gana, se vive. El sueño de control total de la realidad es absurdo.

“El poder es el de los datos”, dicen muchos, y ceden el futuro a una idea neopositivista, impregnada del progreso como la bandera máxima del capitalismo, que nos tiene en la antesala de la extinción.

Nexus justifica el posible futuro oscuro de la sociedad, controlada por sistemas de IA generativa de diferentes gobiernos, dado que en el pasado siempre han fallado los sistemas o protocolos de autocorrección; ahora, fallarán las regulaciones del uso de la IA, por ejemplo.

Al hacerlo, deja fuera la discusión central; cuando hablamos de la IA generativa, debemos pensar lo humano en flujo interrumpido con los sistemas de la inmediatez que anulan nuestras relaciones con el entorno y atrofian nuestros dones más preciados.