¿Por qué Anthropic demandó a EU? Las claves del choque por el uso militar de la IA

Anthropic, el laboratorio de Inteligencia Artificial (IA) respaldado por gigantes como Google y Amazon, presentó este lunes una demanda federal contra el Pentágono para impedir su inclusión en una "lista negra" de seguridad nacional.

Esta acción legal se da en medio de un conflicto ético con el gobierno de los Estados Unidos sobre los límites de la IA en el campo de batalla y las restricciones que las empresas privadas le pueden imponer al Estado.

¿Cuál es el origen del conflicto Anthropic-EU?

La disputa alcanzó su punto álgido el pasado jueves 5 de marzo, cuando el Departamento de Defensa, bajo las órdenes del secretario Pete Hegseth, impuso a Anthropic una designación formal de "riesgo en la cadena de suministro".

Según reportó la agencia Reuters, esta medida limita drásticamente el uso de la tecnología de la firma por parte de agencias federales y contratistas de defensa.

¿Por qué se llegó a este extremo? La razón principal radica en la negativa de Anthropic a eliminar las "barreras de seguridad" de Claude, su modelo de lenguaje grande (LLM, por sus siglas en inglés).

El Pentágono exige que se le permita el uso de dicha IA para el desarrollo de armas autónomas y sistemas de vigilancia doméstica, áreas que Anthropic marcó como líneas rojas en sus políticas de uso. La firma sostiene que su tecnología está diseñada para ser "constitucional" y segura, rechazando cualquier aplicación que implique la letalidad automatizada.

La acusación de operaciones en Irán

Un elemento que resulta por demás incendiario en este caso es la filtración de que la tecnología de Anthropic habría sido utilizada, sin el consentimiento de la empresa, para operaciones militares en Irán.

Según fuentes citadas por medios especializados en defensa, el Pentágono justifica la designación de riesgo alegando que las restricciones de Anthropic "impiden la agilidad operativa" necesaria para misiones críticas en el extranjero, lo que paradójicamente pone en riesgo la seguridad nacional al limitar las capacidades del ejército frente a adversarios tecnológicamente avanzados.

En su demanda presentada ante una corte federal de California, Anthropic calificó las acciones del gobierno como "ilegales y sin precedentes". La empresa afirma que la designación viola sus derechos fundamentales de libertad de expresión (protegida por la Primera Enmienda) y al debido proceso.

La Constitución no permite al gobierno ejercer su enorme poder para castigar a una empresa por su libertad de expresión protegida", sentenció la firma en un comunicado oficial.

La intervención de la Casa Blanca

El conflicto no se limita al Pentágono. El presidente Donald Trump respalda la línea dura de Hegseth, ordenando al gobierno federal que cese toda colaboración con Anthropic. Esta decisión afecta no solo al laboratorio, sino también a sus patrocinadores financieros, Alphabet (Google) y Amazon, quienes han invertido miles de millones de dólares bajo la premisa de que Anthropic lideraría la "IA segura".

Trump y Hegseth han establecido una fase de transición de seis meses para que las agencias federales migren sus sistemas fuera de la infraestructura de Anthropic.

 No obstante, el director ejecutivo de la empresa, Dario Amodei, aclaró que la designación tiene un "alcance limitado" en el sector privado, asegurando que las empresas comerciales pueden seguir utilizando sus herramientas en proyectos que no involucren al Departamento de Defensa.

El desenlace de esta demanda determinará quién tiene la última palabra sobre el "alma" de la inteligencia artificial:

• Soberanía tecnológica: ¿Puede el Estado obligar a una empresa privada a eliminar salvaguardas éticas en nombre de la defensa nacional?
• Precedente para el sector: Empresas como OpenAI o Meta observan de cerca este caso, ya que sentará las bases de cómo se negociarán las restricciones de uso militar en el futuro.
• Seguridad nacional: El Pentágono argumenta que, en la carrera armamentística de la IA contra China y Rusia, las "barreras morales" de las empresas estadounidenses podrían ser una debilidad estratégica.

Mientras la batalla legal avanza, Anthropic solicitó al juez que anule de inmediato la designación de riesgo, advirtiendo que el estigma de ser considerada una amenaza a la seguridad nacional podría causar un daño irreparable a su reputación y a su viabilidad comercial a largo plazo.

Con información de Reuters.