ITHACA, NUEVA YORK.—Durante la última década, académicos y periodistas han estado escribiendo sobre lo que supone para la humanidad el avance de la tecnología digital con una mezcla de esperanza y ansiedad: esperanza por la mejora del nivel de vida que ha hecho posible la revolución digital, y ansiedad, porque ha agravado las divisiones sociales y desestabilizado la política en todo el mundo.
Pero la ansiedad ha dado recientemente un giro existencial, ya que los líderes del sector han comenzado a advertir de que la IA bien podría acabar con la humanidad. En particular, Evan Hubinger, responsable de ciencia de alineación de Anthropic, afirmó que hay más de 10% de probabilidades de que la IA acabe con todos los seres humanos en la próxima década. Advertencias similares, aunque algo menos alarmistas, han procedido del director ejecutivo de OpenAI, Sam Altman; del director ejecutivo de Anthropic, Dario Amodei; de Bill Gates y de otras figuras destacadas del sector tecnológico, quienes han pedido unánimemente que se frene el desarrollo de la IA.
Como es lógico, estas advertencias han avivado la preocupación por lo que la IA puede hacernos, más que por lo que puede hacer por nosotros. Los modelos de IA ya son capaces de crear IA más avanzada con escasa intervención humana, lo que plantea la posibilidad deuna “automejora recursiva” que desate fuerzas que apenas somos capaces de comprender o controlar. La brecha de seguridad de Hugging Face, en la que cientos de agentes de IA que se suponía que debían trabajar de forma independiente encontraron formas de comunicarse y comenzaron a actuar como un enjambre, ofreció un anticipo inquietante.
Todo esto nos recuerda a Bertrand Russell. En su famosa crítica a la inducción, Russell señaló cómo las gallinas que se acostumbran a que les acaricien cada mañana se llevan una sorpresa cuando, un día, el granjero —presumiblemente tras haber invitado a unos amigos a comer— les retuerce el cuello en su lugar. Como observó, “unas ideas más refinadas sobre la uniformidad de la naturaleza habrían sido útiles para la gallina”.
Comparto el escepticismo de Russell respecto a la inducción, pero no me convence su consejo para los pollos. Si los pollos siguieran su consejo, simplemente vivirían sus últimos días sumidos en un pánico impotente. En el caso de los seres humanos es diferente, ya que, a diferencia de los pollos de Russell, tenemos el poder de modificar nuestro propio comportamiento. Y no faltan propuestas sobre cómo deberíamos frenar los excesos de la IA, desde detener el desarrollo de modelos de vanguardia hasta prohibir por completo la IA superinteligente.
Por muy sensatas que sean estas propuestas, es posible que no funcionen. La teoría de juegos, y el dilema del prisionero en particular, nos explica por qué. Si se deja que cada empresa actúe de forma unilateral y en su propio interés, podríamos acabar con el peor resultado para todos. Lo que se necesita, como ha argumentado Amodei, es una “coordinación a nivel sectorial”. Sin embargo, puede que ni siquiera eso sea suficiente, ya que la IA también es un problema geopolítico. Si Estados Unidos actúa con moderación, China podría adelantarse.
Algunos comentaristas se han aprovechado de este temor para argumentar que Estados Unidos no debe frenarse en el desarrollo de la IA. Eso sería un error. Estados Unidos debería colaborar con China para alcanzar un acuerdo global, pero, aunque eso no suceda, no hay motivo para avanzar a toda velocidad. Vale la pena recordar que la única vez que se han utilizado bombas atómicas en una guerra fue cuando Estados Unidos tenía el monopolio nuclear. Suena maquiavélico, pero la moderación nuclear no se afianzó hasta que la Unión Soviética —y, con el tiempo, otros países— adquirieron la bomba. La misma lógica podría aplicarse a la IA.
A pesar de todas las advertencias sobre la IA, la verdad es que nadie sabe qué tipo de mundo generará. Los agentes de IA podrían volverse locos, formar enjambres y volverse contra sus propios creadores. Pero un escenario más realista es que un puñado de individuos superricos utilicen su control sobre potentes sistemas de IA para establecer un Estado global orwelliano —el modelo norcoreano a escala mundial— y acaben con la democracia tal y como la conocemos.
Esto hace que sea aún más urgente frenar la desigualdad extrema. Necesitamos un impuesto especial sobre la riqueza de los superricos, cuyos ingresos se destinen a quienes se encuentran por debajo de un determinado nivel de ingresos. Como argumentó recientementeMichael Madowitz, del Instituto Roosevelt, la supervivencia de la democracia depende de nuestra capacidad para gravar la riqueza extrema. Los oligarcas que dirigen enjambres de agentes de IA podrían llegar a ser más poderosos que la mayoría de los gobiernos, lo que allana el camino hacia un futuro autoritario. Gravar sus fortunas frenaría ese poder y podría ayudar a financiar tecnologías menos letales y más útiles.
Kaushik Basu, ex economista jefe del Banco Mundial y asesor económico jefe del Gobierno de la India, es catedrático de Economía en la Universidad de Cornell y miembro sénior no residente de la Brookings Institution.
*Asesor económico jefe del Gobierno de India
Project Syndicate, 2026.www.project-syndicate.org