Armas que deciden

La expansión de armas autónomas capaces de seleccionar y atacar objetivos sin intervención humana reabre el debate sobre los límites de la inteligencia artificial en la guerra y la urgencia de establecer reglas internacionales frente a los intereses de las potencias militares

Los países que más desarrollan armas autónomas poseen la mayor capacidad para bloquear su regulación; desde 2014 se discute. el tema
Los países que más desarrollan armas autónomas poseen la mayor capacidad para bloquear su regulación; desde 2014 se discute. el temaIlustración: Erick Retana

CAPÍTULO 18

Del 16 al 20 de noviembre se reúne en Ginebra la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales. Su nombre es árido, pero lo que está en juego no lo es. Los Estados deberán decidir si iniciar negociaciones para un tratado sobre armas autónomas, capaces de seleccionar y atacar objetivos sin que un ser humano tome la decisión final.

No se trata de ciencia ficción. En Ucrania, drones con autonomía creciente pueden navegar, rastrear objetivos y, en determinados sistemas, atacarlos sin intervención humana. En Gaza, una investigación periodística de 2024 reveló el uso de Lavender, un sistema de IA que identificaba posibles objetivos humanos para decisiones militares con una supervisión presuntamente mínima. Son tecnologías distintas, pero comparten un riesgo. La sustitución progresiva del juicio humano por decisiones algorítmicas en la cadena de selección y ataque.

UNA DÉCADA DE DISCUSIONES

La Convención sobre Ciertas Armas Convencionales, adoptada en 1980, busca prohibir o restringir el uso de armas que causan sufrimientos innecesarios o afectan indiscriminadamente a civiles. Tiene un precedente notable. En 1995, prohibió las armas láser diseñadas para causar ceguera permanente, antes de que su uso se extendiera en el combate. Fue una de las pocas veces en que la humanidad decidió limitar preventivamente el uso de una tecnología militar.

Desde 2014, la convención discute las armas autónomas. Desde 2017, un grupo de expertos gubernamentales debate la cuestión y, en sus mandatos más recientes, ha intentado perfilar los elementos de un instrumento internacional.

El enfoque contempla dos niveles. Prohibir los sistemas incompatibles con el derecho internacional humanitario y establecer restricciones para los demás, incluyendo límites en cuanto a los objetivos, el territorio, la duración y la escala de sus operaciones.

El Comité Internacional de la Cruz Roja propone prohibir expresamente los sistemas cuyos efectos resulten impredecibles y aquellos diseñados para atacar directamente a personas. El secretario general de la ONU también ha pedido normas jurídicamente vinculantes.

El respaldo internacional es considerable. En diciembre de 2025, la Asamblea General aprobó una resolución sobre armas autónomas con 164 votos a favor, seis en contra y siete abstenciones. Pero el consenso sobre la necesidad de actuar no se ha traducido en un acuerdo sobre obligaciones concretas.

EL VETO DE LOS PODEROSOS

La convención funciona por consenso, pues basta la oposición de un Estado para impedir la adopción de decisiones sustantivas.

En septiembre, tras intensas negociaciones, el grupo de expertos logró aprobar un documento con elementos para una futura regulación. Sin embargo, Estados Unidos y Rusia insistieron en modificaciones que debilitaron considerablemente el texto. Desaparecieron las referencias al diseño y al desarrollo de estas armas, a las consideraciones éticas y a principios como la previsibilidad, la fiabilidad, la explicabilidad y la trazabilidad.

Washington prefiere conservar amplios márgenes para desarrollar sus capacidades militares dentro del marco legal vigente, mientras que Moscú rechaza compromisos vinculantes. Por su parte, China mantiene una posición distinta, favorable a ciertas prohibiciones de uso, pero reticente a restringir el desarrollo tecnológico. Ninguna potencia desea limitar sus opciones mientras teme que sus rivales sigan avanzando.

Surge así una paradoja de gobernanza, pues los países que más desarrollan estas tecnologías también poseen la mayor capacidad para bloquear su regulación. El consenso, concebido para garantizar compromisos universales, puede convertirse en un mecanismo para preservar la libertad de acción de los más poderosos.

Es el gran juego de la inteligencia artificial en su expresión más peligrosa. No es siquiera la lógica de la Destrucción Mutua Asegurada, que al menos generó frenos, sino lo que he llamado una Ruta de Destrucción Asegurada.

LA DECISIÓN QUE NO DEBEMOS DELEGAR

Quienes defienden las armas autónomas argumentan que pueden reaccionar más rápido, mantener una vigilancia constante y, en determinadas circunstancias, reducir los errores humanos. Son ventajas que merecen consideración, aunque una mayor precisión técnica no equivale a una decisión legítima.

Identificar correctamente a una persona no resuelve si puede ser atacada, si se ha rendido, si está herida o si el daño previsto contra civiles resulta desproporcionado. El derecho internacional humanitario exige distinguir entre combatientes y civiles, evaluar la proporcionalidad y adoptar precauciones. Son juicios que requieren comprender circunstancias, ponderar consecuencias y asumir responsabilidad.

El control humano no puede reducirse a pulsar un botón para autorizar una operación cuyas decisiones esenciales ya ha tomado un algoritmo. Debe ser informativo, eficaz y permitir intervenir o detener un ataque.

También surge un problema de responsabilidad jurídica. Si un sistema autónomo comete una violación del derecho de guerra, ¿quién responde? ¿El comandante que lo activó, el programador, el fabricante o el Estado? La responsabilidad humana no desaparece jurídicamente por el uso de una máquina, pero la autonomía y la opacidad tecnológica pueden dificultar la atribución de conductas y errores.

La velocidad introduce otro peligro. Sistemas que reaccionan entre sí a velocidades superiores a la capacidad humana podrían transformar un incidente fronterizo en una escalada militar antes de que alguien consiga detenerla.

La cuestión de fondo trasciende las armas. No se trata de impedir que las máquinas participen en decisiones humanas, sino de establecer cuáles son aquellas decisiones cuya autoridad no podemos transferirles sin renunciar a nuestra responsabilidad.

EL PELIGRO TAMBIÉN ESTÁ EN MÉXICO

La proliferación de armas autónomas no sólo amenaza a los ejércitos de las grandes potencias. Las organizaciones criminales mexicanas ya utilizan drones cargados con explosivos. Aunque todavía no equivale al uso de armas autónomas avanzadas, estas plataformas podrían incorporar progresivamente sistemas de navegación, reconocimiento de objetivos y selección automática de blancos.

Stuart Russell, profesor de Berkeley y una de las voces más reconocidas en este campo, advierte que las armas autónomas podrían adquirir características propias de las armas de destrucción masiva. Al no requerir un operador por dispositivo, unas cuantas personas podrían desplegar miles de dispositivos simultáneamente. La combinación de bajo costo, autonomía y producción a gran escala podría multiplicar drásticamente la capacidad de matar.

Conforme estas tecnologías se abaraten y se difundan, capacidades antes reservadas a los ejércitos podrían quedar al alcance del crimen organizado. Para México, las armas autónomas no sólo representan un desafío humanitario internacional, sino también una amenaza emergente para la seguridad nacional que debemos anticipar desde ahora.

MÉXICO Y UNA TRADICIÓN QUE OBLIGA

México posee una autoridad diplomática singular en materia de desarme.

Impulsó el Tratado de Tlatelolco, que en 1967 estableció la primera zona libre de armas nucleares en una región densamente poblada y contribuyó al Premio Nobel de la Paz otorgado a Alfonso García Robles. También promovió el Tratado sobre la Prohibición de las Armas Nucleares de 2017.

En 2023 respaldó el Comunicado de Belén, mediante el cual países latinoamericanos y caribeños reclamaron un instrumento internacional sobre armas autónomas. Ha copatrocinado resoluciones de la Asamblea General y, en diciembre de 2025, consiguió la aprobación de una iniciativa para preservar el “control humano significativo” sobre los sistemas de mando y control de armas nucleares que incorporen IA.

Hoy, México tiene la oportunidad de ejercer un liderazgo semejante y de participar en la definición de las reglas que determinarán quién puede delegar el uso de la fuerza a las máquinas y bajo qué condiciones.

Y existen precedentes para actuar incluso cuando el consenso fracasa. Las minas antipersonal y las municiones en racimo fueron objeto de tratados negociados fuera de esta Convención, tras resultar insuficientes las negociaciones tradicionales (Ottawa, 1997 y Oslo, 2008). Aunque algunas potencias permanecieron al margen, esos instrumentos transformaron las normas internacionales.

QUÉ DEBE HACER MÉXICO EN GINEBRA

México debe impulsar un mandato de negociación de un instrumento jurídicamente vinculante, con plazos claros; promover la prohibición de sistemas autónomos dirigidos contra personas o cuyos efectos resulten impredecibles; exigir mecanismos verificables de control humano, pruebas previas y responsabilidades identificables; y, si fracasa el consenso, preparar una iniciativa alternativa con América Latina y otros países afines.

ANTES DE QUE SEA TARDE

La historia del desarme demuestra que es más fácil establecer límites antes de que una tecnología letal se difunda de forma irreversible. Las armas láser cegadoras pudieron prohibirse preventivamente. Las minas antipersonal, en cambio, sólo fueron proscritas después de causar incontables víctimas.

El 30 de octubre, el papa León XIV pidió expresamente a los Estados que se reunirán en Ginebra que adopten medidas concretas para prohibir las armas autónomas letales. Su llamamiento coincide con una responsabilidad que trasciende religiones y fronteras.

La pregunta fundamental no es si las máquinas llegarán a superar nuestra capacidad para identificar y atacar objetivos, sino si aceptaremos que esa superioridad técnica les otorgue también la autoridad para decidir sobre la vida humana.

Ginebra debe comenzar a establecer ese límite, porque automatizar la guerra no puede significar automatizar nuestra responsabilidad por sus consecuencias.