Gusanos informáticos con IA: por qué cada vez es más difícil detenerlos, según un experto
Los errores de configuración, como repetir contraseñas, también son vulnerabilidades que la IA puede explotar.
La advertencia de Anthropic de que "gusanos" impulsados por inteligencia artificial podrían propagarse pronto por dispositivos conectados a internet es la más reciente de una serie de estudios sobre cómo la IA puede potenciar el malware capaz de replicarse por sí mismo, informó la AFP.
Un gusano informático es un software malicioso que se propaga solo entre dispositivos. Esa autonomía es justo lo que la IA podría multiplicar. Qué cambia cuando un gusano aprende a adaptarse
El equipo de seguridad Frontier Red Team de Anthropic publicó un informe en el que advierte que modelos de IA pequeños podrían estar a meses de copiarse por dispositivos baratos y mal protegidos, como cajas de streaming o cámaras inteligentes, si los modelos siguen mejorando al ritmo actual.
Los investigadores compraron 15 cajas de televisión con Android por unos 55 dólares cada una, las conectaron en red y ejecutaron un modelo de IA entre todas, según Scripps News. En una simulación, un modelo logró alcanzar los ocho dispositivos en cuatro de cinco pruebas.
Anthropic aclara que aún no ha visto un replicador completo fuera del laboratorio.
Todavía no tenemos un replicador rebelde completo", señala el informe, según Futurism.
El experto Nicolas Papernot, profesor de la Universidad de Toronto, dirigió en junio pasado un equipo que construyó un prototipo de malware con IA usando modelos de acceso libre. Habló con la AFP sobre por qué estos ataques son más difíciles de frenar.
"Históricamente, un gusano explotaba un conjunto de vulnerabilidades. Eso significaba que se podían corregir y evitar que el gusano se siguiera propagando", explicó Papernot.
"Ahora, con la IA, un atacante puede diseñar un gusano que adapte su estrategia de ataque a las particularidades de un dispositivo", añadió.
Eso obliga a anticipar todas las posibles fallas del aparato. Algunas no son errores de software, sino de configuración, como usar la misma contraseña en varios servicios.
Lo que hace un software malicioso impulsado por IA es acelerar el ritmo y aumentar la escala para explotar estas vulnerabilidades", afirmó.
El portátil olvidado en el sótano, que un atacante humano ignoraría por falta de tiempo, se convierte ahora en un objetivo atractivo para lanzar ataques más grandes. Papernot recuerda que detrás hay una persona.
"Un humano es quien lanza un agente. Una vez lanzado, el agente puede replicarse, pero es lanzado por un humano", precisó. Cómo protegerse antes de que sea tarde
Papernot reconoce que el riesgo no se reducirá a cero, porque muchas personas no actualizan sus dispositivos a tiempo. Su equipo propone tres medidas para el muy corto plazo.
La primera es desarrollar y probar los modelos de IA desconectados de internet, para entender su comportamiento antes de exponerlos a infraestructura crítica.
La segunda es crear un organismo internacional que estandarice cómo se entrenan y contienen los modelos.
La tercera es hacer obligatorios los reportes de incidentes de seguridad. Hoy la información depende de lo que los desarrolladores deciden divulgar.
"Eso es un gran problema", subrayó Papernot, quien pidió más datos para que la comunidad académica desarrolle contramedidas.
Para los usuarios, los expertos citados por Scripps News recomiendan cambiar las contraseñas de fábrica, instalar las actualizaciones cuando estén disponibles y considerar dispositivos de marcas reconocidas.