¡Claude bajo alerta! Anthropic detecta usos de IA ligados a desarrollo de posibles armas biológicas
Anthropic aseguró que bloqueó cuentas que intentaron usar Claude en investigaciones biológicas de doble uso que podrían contribuir al desarrollo de armas biológicas
Anthropic aseguró que detectó y bloqueó varios intentos de usar sus modelos de inteligencia artificial en investigaciones que podrían contribuir al desarrollo de armas biológicas, de acuerdo con un nuevo informe de inteligencia de amenazas publicado por la compañía.
La empresa, creadora de Claude, presentó cinco casos en los que usuarios habrían intentado aprovechar sus modelos para tareas de biología de alto riesgo.
Según Anthropic, algunos actores evadieron controles regionales, ocultaron el propósito de sus investigaciones o dividieron sus consultas en varias sesiones para evitar que sus sistemas de seguridad identificaran el objetivo completo.
El reporte cubre actividad detectada entre diciembre de 2025 y agosto de 2026 en distintas áreas de riesgo, incluidas operaciones cibernéticas, vigilancia, fraudes, armas convencionales, intentos de destilación de modelos y posible uso indebido biológico.
¿Qué dijo Anthropic sobre el posible uso de IA en armas biológicas?
Anthropic afirmó que encontró cinco casos de usuarios que emplearon Claude de formas que podrían apoyar el desarrollo de armas biológicas. La compañía no reveló los nombres de los investigadores, instituciones ni países involucrados, aunque señaló que algunos usuarios accedieron desde regiones no autorizadas mediante intermediarios o infraestructura de terceros.
Los ejemplos mencionados por la empresa incluyen investigaciones sobre virus, toxinas y compuestos biológicos con potencial de doble uso. Esto significa que la misma información podría servir para fines legítimos, como el desarrollo de vacunas o tratamientos, pero también podría ser peligrosa si se aplica para crear patógenos más dañinos o sustancias tóxicas.
La propia Anthropic aclaró que no afirma que todos esos investigadores tuvieran intención de causar daño. La dificultad, según la empresa, está en que la biología avanzada puede moverse en una zona ambigua: una investigación puede parecer médica o defensiva, pero también generar conocimiento útil para fines peligrosos.
Los cinco casos que encendieron las alertas
El informe describe cinco casos de posible mal uso biológico.
En uno de ellos, una plataforma intermediaria habría permitido que investigadores de una región no autorizada accedieran a Claude para trabajar en una propuesta relacionada con un virus transmitido por mosquitos. En otro, un investigador pasó semanas planeando experimentos sobre gripe aviar, aunque los filtros de Anthropic limitaron el acceso a modelos menos potentes.
La empresa también reportó un caso en el que un intermediario permitió a varios usuarios usar Claude para redactar una solicitud de financiamiento relacionada con una familia de virus que incluye enfermedades como viruela y mpox. Otros dos casos involucraron investigaciones sobre venenos, toxinas y rediseño computacional de moléculas con posible uso terapéutico o dañino.
Por seguridad, Anthropic decidió no publicar detalles específicos sobre agentes biológicos, instituciones o técnicas empleadas.
Anthropic bloqueó cuentas y reforzó sus controles
La compañía aseguró que, tras investigar estos casos, bloqueó las cuentas relacionadas e incorporó los hallazgos a sus procesos de seguridad, monitoreo e inteligencia de amenazas.
En algunos casos, los sistemas de seguridad impidieron el acceso a modelos más potentes o bloquearon solicitudes de mayor riesgo. En otros, la empresa reconoció que las consultas avanzadas de biología de doble uso pueden ser difíciles de detectar únicamente con clasificadores automáticos.
Para Anthropic, este es uno de los puntos centrales del reporte: conforme los modelos de IA se vuelven más capaces, también aumenta la posibilidad de que sean usados por investigadores, grupos estatales, actores criminales o personas con intenciones ambiguas en áreas sensibles.
bgpa