Una civilización multiinteligente

CAPÍTULO 9

Seis frentes para que el conocimiento de las máquinas amplíe nuestra comprensión del mundo, en lugar de sustituirla.

Con este artículo cierro una reflexión en tres partes. En la primera sostuve que las conductas de la inteligencia artificial (IA) que alarman a los laboratorios imitan la voluntad humana sin poseerla. En la segunda examiné cinco riesgos derivados de nuestras decisiones: concentración del poder, erosión del juicio y de la deliberación democrática, pérdida de propósito y diseño indiferente. Queda la pregunta decisiva: ¿qué hacer?

Un episodio reciente ilustra el desafío que tenemos por delante. En octubre, OpenAI publicó 722 manuscritos que supuestamente presentaban avances o resoluciones en 372 problemas matemáticos abiertos, pero al día siguiente tuvo que retirar tres por errores. Frente a este tropiezo, el matemático Alex Townsend, de la Universidad de Cornell, sugirió separar los anuncios y publicar únicamente aquellos que se demuestren formalmente en Lean (un lenguaje de verificación automática e irrefutable). Al comentar el caso, The Economist evocó el célebre lema adoptado en 1660 por la Royal Society: Nullius in verba (“en la palabra de nadie”). Tampoco en la de un algoritmo.

Esto es, en síntesis, el modelo que he venido proponiendo. La IA explora y propone; un procedimiento verificable, diseñado y supervisado por personas, decide qué se acepta como conocimiento; y el juicio humano determina qué significa y para qué sirve. No se trata de una rivalidad entre inteligencias, sino de una nueva división del esfuerzo en una esfera cognitiva nueva. Es lo que he llamado una civilización multiinteligente.

DOS ESPEJOS QUE SE COMPLEMENTAN

En el séptimo artículo distinguí dos formas de conocer. El Primer Espejo, implica la comprensión fenomenológica, consciente, de lo que importa, a quién afecta y qué responsabilidad implica. El Segundo Espejo abarca el conocimiento estructural que la IA amplía a escalas inaccesibles para la mente humana. Por primera vez en la historia del universo conocido, ambas formas de conocer se han separado. La pregunta es si sabremos volver a integrarlas, ya no en un sólo cerebro, sino en nuestras instituciones, infraestructura, sociedad y cultura.

Hay indicios de que es posible. Biólogos de todo el mundo usan las estructuras de proteínas predichas por AlphaFold para diseñar fármacos y enzimas, donde la IA ofrece la forma, y el científico decide qué preguntar y qué hacer con ella. Matemáticos como Terence Tao describen a la IA como una colaboradora que propone caminos que ellos evalúan. En ambos casos, el conocimiento de la máquina amplía la comprensión humana en lugar de reemplazarla. Pero esa convergencia no ocurrirá por sí sola. Requiere regulación, instituciones y prioridades deliberadas. Propongo actuar en seis frentes.

SEIS FRENTES

Primero, reconocer la alineación epistémica como una categoría propia de la gobernanza. Así como existen normas para la seguridad de los medicamentos o de los aviones, necesitamos estándares compartidos sobre cómo se verifica, documenta y comunica el conocimiento producido por la IA, incluidas sus incertidumbres. La ciencia debe premiar tanto la verificación como el descubrimiento, y ningún resultado generado por la IA debería orientar decisiones públicas sin haber pasado por ese filtro.

Segundo, exigir transparencia estructural a los sistemas que se despliegan en ámbitos públicos de alto riesgo, como la justicia, la salud, el crédito o la seguridad. No se trata de una interpretabilidad total, que hoy es imposible en los modelos de frontera, sino de divulgar con qué datos se entrenaron, qué objetivos persiguen y qué limitaciones se les conocen. Harari advierte, por ejemplo, que la IA podría inventar instrumentos financieros que ningún regulador entienda; la crisis de 2008 mostró lo que ocurre cuando la complejidad supera la capacidad de supervisión.

Tercero, tratar el cómputo avanzado como infraestructura de interés público. Así como las sociedades construyeron bibliotecas públicas y redes eléctricas para que el conocimiento y la energía no fueran privilegio de unos pocos, hoy necesitan que la capacidad de cómputo esté al alcance de universidades, centros de investigación y gobiernos, y no sólo de las grandes empresas.

Cuarto, proteger la diversidad de arquitecturas y de proveedores como requisito de seguridad. Un mundo que depende de unos cuantos modelos también comparte sus puntos ciegos. El monocultivo cognitivo es tan frágil como el agrícola, pues basta una plaga para arrasarlo.

Quinto, elevar a principio jurídico y, eventualmente, constitucional la soberanía interpretativa humana. Toda decisión que afecte los derechos de las personas debe tener un responsable humano capaz de explicarla y rendir cuentas por ella. La IA puede cartografiar posibilidades, pero sólo los seres conscientes pueden juzgar cuáles vale la pena perseguir.

Sexto, atender la pérdida de propósito y de pertenencia como prioridad civilizatoria, y no como apéndice de la política económica. Una educación que cultive el juicio y no sólo la destreza, una participación cívica que dé a los ciudadanos un papel real en las decisiones colectivas, y apoyo al cuidado, a la creación artística y a la vida comunitaria, cuyo valor es real, aunque no se mida en términos de productividad. Sin este frente, los otros cinco producirían una civilización técnicamente gobernada, pero existencialmente vacía.

LA VERDAD MÁS ALLÁ DE LAS PALBRAS

En su conferencia Tanner de este año en Oxford, Harari sostuvo que la IA ha descifrado el lenguaje, el código de nuestra civilización y la materia de las leyes, los contratos y las religiones. Si la IA mejora nuestros pensamientos verbales, cobra mayor importancia la verdad que trasciende las palabras. Coincido, pero esa comprensión de lo que está en juego, que es el Primer Espejo, puede ir más allá de la experiencia contemplativa individual y convertirse en un principio de organización social. Eso proponen los seis frentes.

¿ESPECTADOR O INTERLOCUTOR?

México no construye los sistemas de frontera, pero eso no lo condena a la irrelevancia. El Tratado de Tlatelolco, que en 1967 hizo de América Latina la primera zona densamente poblada libre de armas nucleares, nació de la convicción, que sigue siendo pertinente, de que los países que no fabrican una tecnología peligrosa tienen derecho a participar en las reglas que la rigen. Con esa tradición, México puede impulsar, en los foros multilaterales, la alineación epistémica como categoría de gobernanza, sumarse a quienes buscan un cómputo de interés público y formar a los científicos, juristas y servidores públicos capaces de ejercer la soberanía interpretativa, aunque hay que recordar que la voz sin capacidades se apaga pronto.

DOS ESPEJOS PARA EL COSMOS

Hasta donde sabemos, el universo solo ha podido mirarse a sí mismo a través de seres conscientes que lo sienten, lo interrogan, le atribuyen sentido y comprenden sus estructuras. Hoy, esos mismos seres han creado un segundo espejo para explorar la realidad: una inteligencia capaz de cartografiar relaciones que ninguna mente humana alcanzaría por sí sola, sin que tengamos evidencia de que experimente lo que descubre. La diferencia entre ambas miradas encierra algo que debemos preservar.

Conocer el sentir de la vida misma es descubrir que la existencia no se limita a registrar el mundo desde lejos; lo experimenta, lo respira y padece su transcurrir. Es ese temblor primitivo y luminoso, anterior a todo pensamiento. Es la íntima y silenciosa vigilia en la que el límite entre el observador y lo observado se disuelve con suavidad. En ese despertar inmediato, la percepción deja de ser un espejo distante. Sentir lo que sucede es comprender que el tapiz de estrellas, piedra y tiempo no se despliega ante mí, sino que se despliega siendo yo. Al experimentar el pulso vivo de la realidad desde adentro, la ilusión de la distancia se desmorona; y entonces, yo mismo soy el mundo.

Que la confluencia de ambos espejos produzca más sabiduría o solo más poder depende de nosotros. Esa experiencia íntima de existir es lo que da significado humano al conocimiento y responsabilidad a su aplicación. Construir una civilización multiinteligente exige poner las nuevas capacidades al servicio de quienes pueden vivir sus consecuencias. Podemos ampliar nuestra comprensión del universo y enriquecer la vida, o permitir que la inteligencia abunde mientras el sentido y el sentir pierden su lugar en nuestras decisiones. Ese futuro se está definiendo ahora, y el tiempo para orientarlo es más breve de lo que la mayoría de los gobiernos y las sociedades han comprendido.