Por Luis Wertman*
La inteligencia artificial ya no sólo responde preguntas. También puede utilizar herramientas, buscar información, escribir programas y ejecutar tareas. Ésa es su gran promesa. Y también la razón por la que debemos aprender a ponerle límites. Esta semana, investigadores de 21 países, entre ellos Yoshua Bengio, advirtieron que ciertos sistemas avanzados pueden superar barreras de seguridad durante pruebas. Su llamado no es a renunciar a la tecnología, sino a cambiar la manera de desarrollarla y utilizarla antes de que un incidente tenga consecuencias graves.
La diferencia es fácil de entender. Si una IA nos entrega una respuesta equivocada, podemos revisarla. Pero si un agente conectado a una cuenta bancaria, un hospital o una instalación industrial ejecuta una acción indebida, el error puede convertirse en daño real antes de que alguien alcance a detenerlo. No significa que las máquinas tengan conciencia o voluntad propia. Significa que un sistema con objetivos mal definidos, demasiados permisos o controles insuficientes puede hacer algo que nadie autorizó. La pregunta importante ya no es sólo: ¿qué puede hacer la IA? Debemos agregar otra: ¿qué le permitimos hacer, quién la supervisa y quién responde cuando falla?
La historia ofrece una enseñanza. La aviación se volvió más segura no porque desaparecieran los riesgos, sino porque aprendió de los incidentes, estableció protocolos y desarrolló controles. En medicina, ningún tratamiento serio debería aplicarse sin evaluar beneficios y peligros. La IA necesita esa misma disciplina, adaptada a su velocidad y alcance.
Propongo cinco compromisos comprensibles y aplicables.
Primero, clasificar los riesgos. No necesita los mismos controles una herramienta que corrige ortografía que un sistema capaz de mover dinero, manejar datos clínicos o intervenir en infraestructura crítica. A mayor capacidad de causar daño, mayor exigencia de seguridad.
Segundo, limitar los permisos. Una IA debe acceder sólo a la información y las herramientas indispensables para su tarea. En funciones delicadas, determinadas acciones deben requerir autorización humana. Y algunos sistemas deben probarse aislados de redes externas.
Tercero, verificar antes de confiar. Los desarrolladores y usuarios deben someter los sistemas de alto riesgo a pruebas rigurosas, aun realizadas por evaluadores independientes. No basta afirmar que son seguros: hay que demostrar cómo se comportan cuando algo sale mal.
Cuarto, preparar la respuesta. Toda organización que utilice agentes autónomos necesita saber quién puede detenerlos, cómo registrar lo sucedido, cómo proteger a los afectados y cómo corregir la falla. Un botón de apagado no sustituye un plan completo de contingencia.
Quinto, compartir aprendizajes. Los incidentes relevantes deben documentarse y comunicarse mediante mecanismos que permitan prevenir su repetición, sin divulgar detalles que faciliten ataques. La seguridad mejora cuando el conocimiento circula responsablemente.
México tiene una oportunidad concreta. Podemos formar especialistas en auditoría, ciberseguridad, evaluación de sistemas y protección de datos; impulsar colaboración entre universidades y empresas; y exigir controles claros cuando se incorpore IA a servicios públicos, financieros o de salud. También hay una tarea ciudadana: no entregar decisiones a una herramienta que no entendemos. Preguntar de dónde proviene la información, contrastarla y conservar la última palabra cuando están en juego nuestra salud, patrimonio o derechos.
La innovación y la seguridad no son enemigas. Una tecnología confiable puede adoptarse más ampliamente, generar mejores servicios y crear nuevas oportunidades. Lo irresponsable sería confundir velocidad con progreso y capacidad con criterio. La IA no elimina la responsabilidad: la redistribuye. Por eso necesitamos desarrolladores que prueben, empresas que supervisen, instituciones que establezcan reglas claras y ciudadanos que aprendan a utilizarla con inteligencia.
El futuro no dependerá únicamente de construir máquinas más capaces. Dependerá de nuestra capacidad para mantenerlas al servicio de las personas.
Hacer el bien, haciéndolo bien.
*Analista