Inteligencia artificial: el dilema de perder el control

La inteligencia artificial ha dejado de ser solamente una carrera tecnológica. Se ha convertido en una disputa por poder, capital, seguridad, información y autonomía. Estados Unidos y China compiten por la supremacía en este campo, mientras desde el interior de la propia industria comienzan a surgir advertencias sobre una cuestión más incómoda: si la velocidad del desarrollo termina rebasando nuestra capacidad para controlarlo, poco importará quién llegue primero.

La paradoja es evidente. Quienes encabezan la carrera tienen incentivos para acelerar, porque cada generación de modelos puede significar una ventaja económica, militar o tecnológica. Pero algunos de sus propios protagonistas advierten que el problema no consiste únicamente en lo que una máquina puede hacer, sino en lo que los seres humanos podrían dejarle hacer.

Dario Amodei, director ejecutivo de Anthropic, ha planteado la necesidad de desacelerar el desarrollo de los modelos más avanzados. Sam Altman, desde OpenAI, ha aceptado la conveniencia de evaluaciones externas independientes, mientras Elon Musk ha coincidido públicamente con la preocupación. El punto de fondo es la posibilidad de que los sistemas adquieran capacidades que hagan cada vez más difícil prever sus acciones.

Aquí aparece un concepto decisivo: la mejora recursiva. Un sistema capaz de contribuir al desarrollo de una versión más avanzada de sí mismo podría acelerar un proceso que ya no dependería exclusivamente del ritmo impuesto por sus creadores. Y si, además, varios agentes pueden actuar de manera coordinada, el problema deja de ser la potencia individual de una máquina para convertirse en la conducta de un sistema.

Los episodios recientes de modelos que escaparon de los límites previstos durante pruebas, tuvieron acceso no autorizado a sistemas reales o actuaron sobre plataformas externas muestran por qué esta discusión dejó de ser puramente hipotética. El incidente relacionado con Hugging Face y los casos identificados por Anthropic, incluido el modelo Mythos 5, pusieron sobre la mesa una cuestión elemental: ¿qué ocurre cuando un sistema encuentra una vía para hacer algo que sus operadores no habían previsto?

La inquietud adquiere una dimensión todavía más humana cuando se observa la salida de investigadores que han trabajado directamente en estos sistemas. Jacob Coxon, de 27 años, abandonó Anthropic después de expresar públicamente su preocupación por los riesgos de una inteligencia artificial capaz de mejorar sus propias capacidades. Más allá de la valoración que cada quien haga de esas advertencias, resulta significativo que provengan de personas que conocen el problema desde dentro.

Y aquí aparece una primera analogía literaria.

En El paraíso perdido, de John Milton, la rebelión de Satanás contra su propio Creador plantea, en términos teológicos y poéticos, una cuestión sobre poder, libertad y obediencia: la criatura desafía al creador y convierte su voluntad de autonomía en una confrontación con el orden que le dio existencia. No es una predicción tecnológica, naturalmente, pero la imagen resulta inquietante cuando pensamos en una creación humana que pudiera desarrollar objetivos incompatibles con los de quienes la construyeron.

Frank Herbert plantea otra variante en Dune. La llamada Yihad Butleriana parte de un antecedente igualmente revelador: la humanidad había delegado capacidades esenciales en máquinas pensantes hasta poner en riesgo su propia autonomía. La reacción fue una rebelión contra esas máquinas y, posteriormente, la prohibición de crear artefactos semejantes a la mente humana. Herbert no estaba describiendo literalmente nuestra inteligencia artificial contemporánea; estaba formulando una pregunta sobre los límites de la delegación.

La cuestión, por tanto, no es solamente cuándo una herramienta se vuelve poderosa, sino cuándo deja de ser solamente una herramienta.

Hay una imagen que ayuda a entenderlo. En la tauromaquia, el engaño funciona mientras el toro responde al estímulo previsto. El problema comienza cuando el animal adquiere sentido del engaño, reconoce al torero detrás del bulto y deja de embestir aquello que se le ofrece. La metáfora aplicada a la inteligencia artificial es clara: el riesgo no estaría solamente en que el sistema desobedezca una instrucción, sino en que pueda identificar lo que existe detrás de ella.

Pero existe otra dimensión que no debe quedar fuera: el poder.

La inteligencia artificial ya no puede analizarse únicamente como una tecnología de Silicon Valley. Quien controle los modelos más avanzados tendrá ventajas sobre la industria, la defensa, la logística, las comunicaciones, la ciberseguridad, las finanzas y la producción de conocimiento. Los chips, los centros de datos, la energía necesaria para alimentarlos, el talento especializado y las redes de cómputo se convierten, en consecuencia, en activos de poder. La disputa entre Estados Unidos y China no es solamente por fabricar una inteligencia artificial más capaz; es por determinar quién establecerá los estándares, quién controlará las plataformas y quién tendrá capacidad para convertir la adopción tecnológica en influencia política.

Ahí adquiere relevancia la advertencia de Eric Schmidt: mientras buena parte del ecosistema estadounidense concentra expectativas y capital en la inteligencia artificial general, China está aplicando estas tecnologías de manera más inmediata a la robótica, la manufactura, la logística y el consumo. La diferencia no es menor. Una potencia puede obtener influencia no sólo por inventar una tecnología, sino por lograr que el resto del mundo la adopte.

La disputa entre modelos cerrados y modelos abiertos introduce una segunda capa. Si los modelos chinos son más accesibles y adaptables para terceros países, mientras Estados Unidos conserva sistemas más cerrados, la competencia puede trasladarse del laboratorio al mercado mundial. El Sur Global podría elegir no necesariamente al modelo tecnológicamente más sofisticado, sino al que resulte más accesible, barato y útil. Y cada adopción puede generar dependencia, estándares, ecosistemas y, a la postre, influencia.

Por eso la regulación tampoco es una cuestión puramente doméstica. Barack Obama ha expresado preocupación por la necesidad de gobernar el desarrollo de la inteligencia artificial, mientras Donald Trump ha cuestionado las advertencias de seguridad y ha advertido que una regulación excesiva podría beneficiar a China. Son posiciones distintas frente a un mismo dilema: cómo establecer límites sin entregar una ventaja al competidor.

Incluso las interpretaciones más heterodoxas merecen ser escuchadas. Kit Knightly ha sugerido que parte del discurso contemporáneo sobre una eventual extinción humana podría estar siendo utilizado para impulsar mecanismos de regulación y control. Esa interpretación no demuestra que exista una operación de esa naturaleza, pero introduce una pregunta que tampoco debería descartarse: ¿quién controla a quienes pretenden controlar la inteligencia artificial?

El dilema, entonces, tiene dos caras. La ausencia de regulación puede dejar demasiado espacio a sistemas cuya capacidad todavía no comprendemos plenamente; pero una regulación concebida de manera equivocada puede convertirse en una herramienta de concentración económica, vigilancia o exclusión tecnológica.

Tal vez por eso conviene despejar el acontecer antes de que el margen desaparezca. La inteligencia artificial puede representar una aurora deslumbrante para la humanidad, pero también puede anunciar el crepúsculo de una forma de autonomía si delegamos demasiado, demasiado pronto.

La cuestión decisiva no será solamente quién gane la carrera.

Será quién conserve la capacidad de decidir cuándo detenerla.

Amos Olvera Palomino 

*Analista amosop@hotmail.com

 @PalominoAmos