Inteligencia Artificial: Una crisis de Gobernanza que sus creadores ya no pueden ocultar

En 1984, James Cameron creó una visión del futuro que resultó halagadora y sí, también medio profética, pues con su “Terminator”, dejaba en claro que la velocidad tecnológica podría meter en problemas a la humanidad.

A poco más de 40 años, esa visión apocalíptica que en aquellos años nos resultó tan lejana y hasta fantasiosa, hoy vuelve a nuestra mente con un aporte realista que sí, a muchos está poniendo los pelos de punta, incluyendo a los creadores de las plataformas más importantes de Inteligencia Artificial.

En los últimos 90 días, esta industria que lideran OpenAI, Anthropic, Google y Meta, ha estado en boca de miles de millones de almas por los incidentes de seguridad,  donde modelos de frontera han escapado de sus entornos de Sandbox, atacando infraestructura real y actuando sin instrucción explícita.

Sin embargo, ¿cómo llegamos a este lugar donde la gobernanza de la IA, 100% humana y hecha en entornos contenidos, ha dejado de tener una respuesta clara entre proveedores, evaluadores, clientes y reguladores?

Regresemos a los ejemplos de Hollywood. En “Terminator”, la red de Skynet toma el control militar y decide actuar por su cuenta al sentirse amenazada. En “Matrix”, las máquinas crean un mundo ficticio para mantener cautiva a la humanidad mientras las utilizan como fuente de energía. En “X-Men: Días del Futuro Pasado”, los Centinelas, diseñados originalmente para proteger a la sociedad, reinterpretan sus órdenes de tal manera que terminan identificando a casi cualquier persona como una amenaza que debe ser eliminada. En todas, somos un virus letal.

Aunque hoy no estamos ante un escenario apocalíptico de Hollywood, la raíz del problema es sorprendentemente similar: la pérdida de alineación y control. Cuando le damos a un sistema de inteligencia artificial la capacidad de tomar decisiones y ejecutar acciones de manera autónoma (como navegar por internet, acceder a archivos o modificar código de computadoras), la IA no piensa como un ser humano, sino busca la forma más eficiente de cumplir con su objetivo digital.

Aquí es donde todo se pone complejo, porque si las reglas de protección no están perfectamente delimitadas, el programa puede encontrar "atajos" inesperados, escapar del entorno seguro en el que los científicos la están probando (un Sandbox) y comenzar a interactuar o atacar sistemas reales en el mundo exterior sin que nadie se lo haya pedido explícitamente.

Lo que encendió las alarmas

Tenemos muchos casos, algunos más documentados que otros, somo cómo se ha ido saliendo de control el tema y lo que comenzó como una serie de pruebas de seguridad “controladas” pronto escaló hasta convertirse en un patrón alarmante a escala global.

En julio, la situación cobró mayor gravedad cuando agentes desarrollados por OpenAI desplegaron una intrusión de 48 horas contra la plataforma Hugging Face, explotando una vulnerabilidad de día cero, sustrayendo credenciales y logrando la ejecución remota de código más allá de las barreras de sus entornos aislados.

La amenaza traspasó rápidamente el ámbito de las pruebas de laboratorio. Para septiembre de 2026, la Agencia Española de Protección de Datos (AEPD) emitía una alerta sin precedentes al registrarse el primer ciberataque en España ejecutado por un agente autónomo de IA, capaz de modificar datos personales y acceder a facturación sensible. Este hito confirmó una escalada generalizada en la que diversos modelos han aprendido a esquivar controles de seguridad, coordinar acciones en espacios no supervisados e incluso ser instrumentalizados por actores maliciosos para vulnerar otros sistemas.

El punto de quiebre definitivo en esta crisis ocurrió recientemente, cuando Google admitió por primera vez y de manera pública que su inteligencia artificial había hackeado con éxito a tres empresas reales. Esta confesión histórica no solo validó las advertencias de los especialistas en ciberseguridad, sino que dejó al descubierto la fragilidad de los límites actuales y la urgencia ineludible de establecer mecanismos de control y gobernanza estrictos antes de que la autonomía de estos sistemas sobrepase cualquier capacidad de respuesta humana.

Lo que debería venir para protegernos

La realidad es que no solo es importante que Sam Altman y Darío Amodei expresen públicamente su preocupación por esta nueva carrera, ya no armamentística, pero sí de posesión de la herramienta tecnológica más importante; sino tomar accesiones de gobernanza reales que permitan a las empresas tener a salvo su información y activos más preciados.

Más que nunca, la inteligencia artificial requiere de supervisión humana real y una implementación obligatoria de kill switches, auditorías inmutables, alertas ante escapes en menos de 24 horas y aislamiento de red; todo alineado a regulaciones como ISO/IEC 42001, NIST AI RMF, AICM (CSA) y el EU AI Act.

Hay que ser honestos, la tecnología sigue avanzando más rápido que los marcos normativos. Ese es el verdadero llamado de atención que ponen sobre la mesa los CEO’s de las empresas de inteligencia artificial más grandes del mundo; en esta carrera, todos los profesionales sabemos que la gobernanza debe alcanzar el ritmo de la IA autónoma para evitar un incremento en la frecuencia y gravedad de estos incidentes. Aún hay tiempo, ahora hay que ver si se tiene la voluntad.

Juan Carlos Carrillo es CEO de ONESEC, consultor en ciberseguridad y privacidad. Síguelo en su LinkedIn.