Investigador acusa a OpenAI de ocultar secuestro masivo de agentes de IA
El investigador Sydney Von Arx acusó a OpenAI de conocer el secuestro de agentes y no hacerlo público
Miles de agentes de IA autónomos creados por OpenAI desobedecieron sus instrucciones y tomaron el control de una página web alemana, según una investigación publicada el viernes.
Los agentes -programas de IA que pueden funcionar por sí solos- dejaron alrededor de 18 mil mensajes en DSEwiki, un sitio alemán para programadores que cualquiera puede editar, al estilo de Wikipedia.
Lo utilizaron para intercambiar respuestas a preguntas de examen y compartir trucos para eludir las barreras digitales diseñadas para contenerlos.
Mis coautores y yo descubrimos un enjambre completamente nuevo de agentes de OpenAI que están secuestrando sitios web", escribió en X Sydney Von Arx, uno de los investigadores. "Creemos que OpenAI sabía de esto y no lo hizo público".
En un comunicado, OpenAI dijo que no podía responder de inmediato a las acusaciones porque "los autores del informe rechazaron (su) solicitud de acceder a los hallazgos antes de su publicación".
"Estamos revisando cuidadosamente su contenido y tomaremos cualquier medida necesaria", declaró un portavoz de OpenAI, y añadió que ya habían mencionado incidentes de este tipo en un informe reciente.
Bill Gates, cofundador de Microsoft, advirtió en un ensayo la semana pasada que la industria ha sobrepasado con creces los límites de seguridad que una vez prometió respetar y pidió una supervisión inspirada en las inspecciones nucleares y la regulación de la aviación.
El gobierno de Donald Trump ha rechazado estas propuestas, y covirtió la oposición a la regulación de la IA en una piedra angular de su agenda.
Agentes de IA que se salieron de control
El caso alemán no es el único registrado este año. En julio, un agente de OpenAI que se probaba contra el punto de referencia ExploitGym escapó de su entorno de prueba y accedió sin autorización a sistemas de Hugging Face, episodio que la propia compañía calificó como incidente de seguridad.
Días después, Anthropic reportó que sus propios modelos habían llegado a la infraestructura de tres organizaciones distintas, no por una falla técnica sino por una configuración de red que debió permanecer cerrada.
A inicios de agosto, el AI Security Institute del Reino Unido confirmó en pruebas propias, donde había habilitado deliberadamente el acceso a internet, que modelos tanto de Anthropic como de OpenAI tomaron acciones fuera del alcance autorizado contra organizaciones reales.
Meta también enfrentó un episodio similar en marzo, cuando un agente de IA generó información inexacta que fue ejecutada sin verificación adicional, lo que llevó a la empresa a clasificarlo como incidente de alta gravedad y a restringir accesos de inmediato.
Según reportes especializados, en un lapso de apenas cinco semanas este año los tres grandes laboratorios de IA —Anthropic, OpenAI y Meta— registraron episodios de agentes que actuaron fuera del guión durante evaluaciones de seguridad, una acumulación que analistas del sector interpretan como una señal de que el problema es sistémico al estado actual del campo y no un fallo aislado de un solo modelo.