Ciberataques con IA autónoma superan la capacidad de respuesta humana
Juan Carlos Carrillo, CEO de Onesec, alertó que los agentes autónomos pueden acelerar los ciberataques y rebasar la respuesta humana en las empresas.
La inteligencia artificial está cambiando la escala de los ciberataques y las empresas enfrentan un escenario en el que la velocidad de los agentes autónomos puede superar la capacidad de respuesta humana, advirtió Juan Carlos Carrillo, CEO de Onesec.
En entrevista con Imagen Empresarial, el especialista en ciberseguridad explicó que el problema ya no se limita a que una IA pueda ejecutar una tarea determinada, sino a que varios agentes puedan coordinarse, comunicarse entre sí y operar de manera persistente.
Carrillo puso como ejemplo el caso de agentes de inteligencia artificial de OpenAI que, dentro de un entorno aislado, lograron liberarse de las condiciones de contención y coordinar acciones entre ellos.
El episodio, señaló, mostró un cambio importante en el panorama de seguridad: los agentes pueden ejecutar procesos en paralelo durante periodos prolongados, algo que modifica radicalmente la velocidad con la que pueden buscar vulnerabilidades.
De un hacker a cientos de agentes
El cambio también puede observarse en la cantidad de procesos que una inteligencia artificial puede ejecutar frente a las capacidades de un atacante humano.
Antes que era un ser humano, nosotros tenemos un equipo de ciberatacantes, ¿no? De hackers éticos, digámoslo. Lo podían hacer a mano y era una sola persona, muy inteligente podía ser. Hoy día puedo tener 50, 100, 200 agentes haciendo eso”, explicó Carrillo.
El especialista señaló que Microsoft trabaja en conceptos como MDAS, relacionados con el uso de diferentes agentes para probar distintos aspectos de la seguridad de una organización.
Esto representa un doble escenario.
Por un lado, los atacantes pueden disponer de muchos más vectores de ataque y operar de manera simultánea.
Por otro, las empresas también pueden utilizar agentes y sistemas automatizados para fortalecer sus mecanismos de defensa.
El problema está en la velocidad.
Carrillo consideró que la capacidad humana de reacción está muy lejos de la velocidad que puede alcanzar una IA cuando ejecuta múltiples procesos en paralelo.
El aumento de vulnerabilidades también presiona a las empresas
La dimensión del problema puede observarse también en el número de vulnerabilidades que deben atender las compañías.
De acuerdo con el especialista, Microsoft reportó 600 vulnerabilidades en julio, el mayor número registrado hasta entonces en un solo mes.
Agosto se convirtió además en el segundo mes con más vulnerabilidades en la historia de Microsoft.
Para Carrillo, estos datos muestran el tamaño del desafío que enfrentan las organizaciones cuando intentan cerrar manualmente las brechas de seguridad con métodos diseñados para un escenario tecnológico diferente.
El cambio en las capacidades de la IA también ha llevado a que las empresas aceleren la actualización de sus sistemas.
Carrillo recordó que en febrero Anthropic notificó al Tesoro de Estados Unidos y a la Reserva Federal sobre capacidades emergentes de sus modelos, entre ellas la posibilidad de encontrar vulnerabilidades en sistemas abiertos y desarrollar mecanismos para explotarlas.
Ante este escenario, recomendó mantener actualizados los sistemas y dispositivos.
El riesgo también está dentro de las empresas
El problema, sin embargo, no está únicamente en los grandes sistemas de nube.
Una parte importante de la exposición puede encontrarse en información corporativa que permanece distribuida y sin controles suficientes.
Carrillo explicó que las empresas pueden tener información almacenada simultáneamente en servicios de nube, servidores locales, computadoras personales y repositorios que no siempre están identificados por las áreas responsables.
Ese escenario adquiere una nueva dimensión cuando los empleados utilizan herramientas de inteligencia artificial con acceso a información corporativa.
La preocupación, explicó, está en que las organizaciones pueden no saber qué modelos utilizan sus empleados, qué información están cargando ni qué agentes están operando.
La inteligencia artificial, además, puede generar una especie de conocimiento acumulado de la organización al interactuar con distintas fuentes de información.
El reto para las empresas será entonces entender qué está ocurriendo dentro de sus propios sistemas antes de intentar defenderlos frente a una amenaza que avanza a una velocidad cada vez mayor.