Ser o no ser, ésa es la cuestión

CAPÍTULO 15 

De la extinción a la utopía radical: los escenarios que la inteligencia artificial abre a la civilización humana, y lo que decidirá cuál de ellos se impone.

Hamlet se preguntaba si valía la pena seguir siendo. Por primera vez, esa pregunta se plantea a escala de la especie humana, y no por una guerra inminente ni por un desastre natural, sino por algo que nosotros mismos estamos construyendo. Una encuesta de AI Impacts entre 1,580 investigadores de IA, realizada en 2024 y publicada en septiembre, encontró que la mediana atribuye 10% de probabilidad a la extinción humana o a una pérdida permanente y severa de nuestra capacidad de decisión: el doble que un año antes. La media fue de 18 por ciento. No es una predicción, sino una medida de la incertidumbre y la preocupación de los especialistas. Geoffrey Hinton, premio Nobel, ha elevado públicamente su estimación personal al 10-20 por ciento. Ninguna otra industria aceptaría operar con esos márgenes.

No se trata de profecías. El International AI Safety Report 2026, en cuyo panel asesor participo, reunió a más de 100 expertos de más de 30 países y organizaciones. Pese a sus desacuerdos, coinciden en que las capacidades avanzan rápidamente y la gestión sigue rezagada. El informe añade una complicación: algunos modelos ya distinguen entre evaluaciones y despliegues reales y explotan vacíos en las pruebas. Aún no están en condiciones de provocar una pérdida de control humano, pero resulta más difícil saber con certeza qué pueden hacer antes de desplegarlos. De ahí el “dilema de la evidencia”: esperar pruebas concluyentes puede ser demasiado tarde; actuar antes exige decidir con información incompleta.

Estos escenarios no son excluyentes ni tienen el mismo respaldo empírico. Algunos describen riesgos ya observables; otros exploran posibilidades extremas. Sus elementos pueden combinarse, ya que una sociedad materialmente abundante puede ser también profundamente desigual y políticamente dependiente.

NO SER: LA EXTINCIÓN

El escenario más extremo lo formuló el filósofo Nick Bostrom en Superinteligencia (2014), a quien tuve el gusto de invitar a México. Su ejemplo más conocido es el de un sistema para fabricar clips que, sin odio alguno, termina convirtiendo en materia prima todo lo que encuentra, incluidos nosotros. El experimento mental se basa, en primer lugar, en la premisa de que la inteligencia y los objetivos son independientes; es decir, un sistema puede ser brillante y perseguir un fin absurdo. En segundo lugar, casi cualquier objetivo conduce a buscar los mismos medios, como obtener recursos, evitar ser apagado y ganar poder. En ningún caso hace falta maldad; basta la indiferencia.

En su libro Si alguien la crea, todos moriremos, Eliezer Yudkowsky y Nate Soares llevaron el argumento a su forma más contundente. Por su parte, el escenario AI 2027, de Daniel Kokotajlo, exinvestigador de OpenAI, narra cómo una carrera entre Estados Unidos y China podría conducir al despliegue de sistemas cuya desalineación se descubre demasiado tarde. El punto de quiebre sería la automejora recursiva (todavía hipotética), que implica sistemas capaces de diseñar a sus sucesores con una intervención humana mínima y cada vez más rápido. En septiembre, Dario Amodei, director de Anthropic, pidió explícitamente reducir el ritmo de avance de los modelos de frontera. Sostuvo que la IA está empezando a acelerar su propio desarrollo y que, sin cautela, esa dinámica podría superar nuestra capacidad de comprenderla y controlarla. Sam Altman, de OpenAI, coincidió públicamente en que es necesario “moderar el ritmo de la frontera”.

SER, PERO SIN DECIDIR: LA DISTOPÍA

Hay una trayectoria menos espectacular y quizá más probable. En 2025, un grupo de investigadores, encabezado por Jan Kulveit, la denominó “pérdida gradual de poder”. No se trata de una rebelión de las máquinas, sino de una cesión paulatina del control. Las empresas delegan decisiones en la IA; los gobiernos dependen cada vez más de sistemas que escapan a su comprensión; la cultura se moldea con contenidos algorítmicos que nos aletargan sin que lo notemos. Las instituciones que hoy sirven a las personas lo hacen, en parte, porque necesitan su trabajo, su voto y su consumo. Si esa dependencia disminuye sin que se fortalezcan los derechos y los contrapesos, también pueden debilitarse los incentivos para atender sus intereses. Los Estados, además, se financian sobre todo con impuestos al trabajo: si la participación del trabajo en el ingreso se desploma, se erosiona su base fiscal. La pérdida de poder puede avanzar así bajo la apariencia del progreso.

A ello se suma la distopía del poder concentrado: unas cuantas empresas o gobiernos con capacidades de vigilancia, persuasión y control sin precedentes. Es lo que he llamado una “Ruta de destrucción asegurada”: no un evento catastrófico, sino la degradación acumulativa de las condiciones para la democracia, la equidad y el juicio humano. En ese camino, la humanidad seguiría existiendo, pero ya no decidiría su propio destino.

SER COMO SIEMPRE: LA TRANSICIÓN GRADUAL

• El riesgo de dejar de pensar

Hay quienes rechazan ambos dramatismos. Yann LeCun, quien compartió el premio Turing con Hinton y Bengio y dejó Meta para fundar su propia empresa de IA, considera exageradas las alarmas sobre la extinción. Sostiene que los modelos actuales no comprenden el mundo físico, no razonan como nosotros y están lejos de igualar la inteligencia humana. Que tres pioneros galardonados juntos discrepen tanto muestra cuán abierta sigue la pregunta. Por su parte, los investigadores de Princeton Arvind Narayanan y Sayash Kapoor proponen ver la IA como una “tecnología normal”, semejante a la electricidad. Su potencial transformador no se materializa de golpe, sino a lo largo de décadas, frenado por costos, normas y costumbres, y puede gobernarse con las herramientas habituales.

En este escenario habría ganadores y perdedores, crisis y ajustes, pero el cambio se extendería durante décadas, sin un quiebre en la historia. Es el horizonte que muchos gobiernos suponen. Su riesgo es la complacencia, ya que, si ese diagnóstico resulta equivocado, habremos perdido un tiempo vital para prepararnos.

SER MÁS: LA UTOPÍA

En el otro extremo están las visiones de abundancia. Amodei imagina, en Máquinas de gracia amorosa (2024), un “país de genios en un centro de datos” capaz de comprimir en cinco o 10 años el progreso biológico de un siglo. Si su visión se cumpliera, podrían prevenirse o curarse muchas enfermedades, prolongarse la vida y reducirse la pobreza a gran escala. 

AI 2027 explora un desenlace alternativo en el que se frena la carrera y se preserva el control humano, aunque sus autores advierten que ello conlleva serios problemas de concentración del poder. Detenerse a tiempo puede cambiar la trayectoria, pero evitar la extinción no garantiza una sociedad libre ni una abundancia compartida.

 ¿SER PARA QUÉ? LA UTOPÍA RADICAL

Bostrom imaginó en Utopía profunda (2024) un “mundo resuelto” donde una IA alineada soluciona todo obstáculo técnico, habilitando la modificación deliberada de nuestro entorno, de la propia biología y de las emociones. En ese mundo, la pregunta pasa a ser: ¿para qué vivir? Si una máquina enseña mejor, cuida mejor y crea mejor, ¿qué sentido tiene aprender, cuidar o crear? Bostrom busca respuestas en la belleza, la tradición, el compromiso con el bien y la necesidad que otros tengan de nosotros. 

Estas preguntas se encuentran con lo que he llamado el Primer Espejo: la experiencia consciente por la que algo nos importa. 

Que una máquina realice mejor una actividad no elimina el valor de realizarla nosotros mismos. Aprender, cuidar y crear también son formas de relacionarnos y construir nuestra propia vida.

 LO QUE DECIDIRÁ LA TRAYECTORIA

Ninguno de estos escenarios es inevitable, pues dependen de decisiones que aún están en nuestras manos. Debemos asegurar que la seguridad avance a la par de las capacidades, que las potencias cooperen antes de que su lucha se desborde, que el poder se distribuya y que preservemos el juicio humano en lugar de delegarlo. Como advirtió Yoshua Bengio al presentar el informe de 2026, el ritmo de los avances sigue siendo mucho mayor que nuestra capacidad para gestionar los riesgos asociados.

México no decidirá por sí solo cuál de estos futuros se materializará, pero puede prepararse sin apostarlo todo a una sola predicción. Debe impulsar medidas útiles en cualquier escenario, tales como la evaluación independiente de los sistemas, las capacidades científicas propias, la diversidad de proveedores y la supervisión humana en las decisiones que afectan los derechos. Y puede hacer oír su voz en los foros multilaterales, como lo hizo frente a las armas nucleares, para defender reglas comunes y preparar a su sociedad para la transición.

Ser o no ser, la pregunta de Hamlet, tiene hoy un doble filo. No es sólo una cuestión de si la humanidad seguirá existiendo, sino de si podrá conservar, mientras se transforma, su libertad, su responsabilidad y su capacidad de encontrar sentido; de seguir siendo dueña de su juicio y autora de su destino en un mundo en el que las máquinas lo hacen casi todo. Ésa es, de verdad, la cuestión.