Estamos cerca de que las máquinas maten sin control humano, advierten la ONU y la Cruz Roja
La ONU y el CICR advierten que la rendición de cuentas se complica cuando un sistema autónomo comete un error y causa la muerte de civiles.
El Secretario General de las Naciones Unidas, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja (CICR), Mirjana Spoljaric, hicieron un llamamiento conjunto a los Estados para que adopten con urgencia normas internacionales claras y jurídicamente vinculantes sobre los sistemas de armas autónomos.
Ambas instituciones advierten que el rápido desarrollo de tecnologías militares profundiza la brecha entre las capacidades disponibles y las normas destinadas a proteger a las personas en los conflictos armados, en particular por la creciente pérdida de control humano sobre las decisiones relacionadas con el uso de la fuerza.
Ahora nos encontramos peligrosamente cerca de cruzar una línea roja moral: el ataque autónomo de máquinas contra seres humanos", señalaron Guterres y Spoljaric en su declaración conjunta.
Los sistemas de armas autónomos son aquellos que, una vez activados por una persona, pueden seleccionar y atacar objetivos sin intervención humana adicional, mediante sensores y software que interpretan su entorno.
Esto los distingue de un dron armado operado a distancia, donde una persona decide cuándo y dónde usar el arma; en un sistema autónomo, funciones como la selección y el ataque de objetivos pueden quedar en manos del propio sistema. La autonomía, además, no implica necesariamente el uso de inteligencia artificial y puede presentarse en tecnologías de distinta complejidad.
Los riesgos jurídicos, humanitarios y éticos
La principal preocupación es que decisiones capaces de determinar quién vive y quién muere pasen de las personas a sensores y programas informáticos.
El derecho internacional humanitario exige distinguir entre objetivos militares y civiles y evitar ataques desproporcionados, principios cuya aplicación resulta más incierta cuando es una máquina la que selecciona y ataca un objetivo sin intervención humana en ese momento.
A esto se suma la preocupación por la previsibilidad de estos sistemas, que pueden enfrentarse a situaciones no contempladas en su diseño, y el desafío de la rendición de cuentas: si un sistema autónomo comete un error y causa la muerte de civiles, resulta más complejo determinar quién tomó la decisión y cómo investigar una eventual violación del derecho internacional humanitario.
Para el CICR, mantener el control y el juicio humanos sobre el uso de la fuerza es una cuestión central tanto humanitaria como jurídica y ética, ante la pregunta de fondo sobre si una máquina debe poder tomar por sí misma una decisión de vida o muerte.
Un llamado a negociar límites antes de que la tecnología avance más
La ONU y el CICR sostienen que los Estados deben actuar ahora, antes de que estas tecnologías se desplieguen de manera más generalizada, e instan a iniciar negociaciones para un instrumento jurídicamente vinculante con prohibiciones y restricciones claras.
El CICR ha recomendado prohibir los sistemas autónomos cuyos efectos no puedan ser suficientemente comprendidos, previstos y explicados, así como aquellos diseñados para aplicar la fuerza directamente contra personas.
Para los sistemas no prohibidos, plantea límites sobre los objetivos, el tiempo, el espacio y las circunstancias de uso, además de garantizar supervisión humana efectiva y la posibilidad de desactivarlos.
Los Estados ya han avanzado en el debate a través de la Asamblea General de la ONU y del Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales, proceso que cuenta ya con una base de trabajo importante sobre el grado de control humano necesario. La Séptima Conferencia de Examen de esa Convención, prevista para noviembre de 2026, se perfila como una oportunidad concreta para avanzar hacia negociaciones formales.
"Este año debe marcar un punto de inflexión", señalaron Guterres y Spoljaric, quienes subrayaron que la innovación tecnológica debe estar al servicio de la humanidad y no ponerla en peligro.
Para ambas instituciones, la cuestión central no es detener la innovación tecnológica, sino asegurar que las decisiones sobre el uso de la fuerza permanezcan bajo un control humano efectivo y dentro de los límites establecidos por el derecho internacional.