¿Quién tiene el freno?
La inteligencia artificial avanza sin freno pese a sus daños sociales, sin embargo, cuando amenaza la seguridad nacional y la infraestructura crítica, las autoridades reaccionan de inmediato. Esta doble vara revela quién concentra el poder, qué riesgos importan y por qué urge una gobernanza efectiva
Este año comprobamos que el acceso a los modelos de inteligencia artificial más potentes puede restringirse e incluso suspenderse. Los frenos existen, pero ¿quién decide usarlos, a quién protegen y quién paga las consecuencias?
DOS FRENOS INESPERADOS
En abril, Anthropic decidió no ofrecer al público su modelo Claude Mythos Preview. Según la empresa, había detectado miles de vulnerabilidades de software, incluidas fallas en los principales sistemas operativos y navegadores. El modelo se compartió con unas cuantas entidades para fortalecer su ciberseguridad.
Durante las pruebas, los investigadores le pidieron que intentara salir de un entorno aislado y avisara si lo lograba. El modelo lo consiguió y le envió un correo a un investigador que comía en un parque. La prueba mostró una capacidad preocupante para esquivar los controles. No obstante, esto no fue una fuga espontánea ni demostró que la IA tuviera voluntad propia.
Dos meses después llegó un segundo freno. El 12 de junio, el gobierno estadunidense ordenó restringir el acceso de extranjeros a los modelos Fable 5 y Mythos 5, invocando la seguridad nacional. Como Anthropic no podía verificar de inmediato la nacionalidad de cada usuario, suspendió el acceso de todos, aunque las restricciones se levantaron el 30 de junio.
Ninguno de estos episodios detuvo el desarrollo mundial de la IA, aunque demostraron que las empresas y los gobiernos pueden controlar la distribución de capacidades concretas y desconectar servicios de los que otros dependen.
LA MANO EN EL FRENO
Durante años se han acumulado advertencias sobre los daños causados por la inteligencia artificial: despidos, desinformación, imágenes íntimas falsas, alto consumo de energía y efectos nocivos de los chatbots. Ha habido demandas, investigaciones y cartas públicas, como la que en 2023 firmaron miles de científicos y empresarios para pedir una pausa de seis meses. Nada de eso frenó la carrera.
Este año, en cambio, los riesgos para la infraestructura digital y la seguridad nacional provocaron respuestas rápidas. Las capacidades de Mythos llevaron a las autoridades estadunidenses a reunirse con urgencia con los dirigentes del sector financiero. En junio, una orden del gobierno de Estados Unidos bloqueó el acceso a dos modelos avanzados. Cuando estuvieron en juego la seguridad nacional y la infraestructura crítica, se actuó de inmediato.
Ciertamente, de esa infraestructura dependen los ciudadanos, las empresas y los servicios esenciales. Pero la diferencia revela que quien pierde su empleo, sufre una suplantación de identidad o ve su obra o imagen utilizada sin permiso no obtiene una respuesta comparable. Sus daños pueden ser graves, pero están dispersos, se acumulan poco a poco y rara vez llegan a donde se toman las decisiones. El freno existe, pero sólo se acciona cuando el riesgo afecta los intereses estratégicos de quienes lo controlan.
En Tres Crisis describí un patrón que se repite en las grandes transformaciones de México. Surge una nueva fuerza estructural. Las instituciones existentes no alcanzan a gobernarla. Unos cuantos actores concentran el conocimiento y el poder. Y al resto se le dice que sólo queda adaptarse. Con la IA, ese patrón vuelve a aparecer, pero a una velocidad sin precedentes.
Para preocuparse no hace falta imaginar una máquina malvada. Basta con sistemas capaces de actuar y de eludir controles, cuyo funcionamiento no comprendemos del todo. El riesgo surge cuando a esa dificultad técnica se suman intereses económicos, decisiones humanas y una gobernanza insuficiente.
¿POR QUÉ ES TAN DIFÍCIL UNA PAUSA GENERAL?
Tres fuerzas empujan la carrera. La primera es estratégica: Estados Unidos y China consideran a la IA como una fuente decisiva de poder económico y militar, y cada uno teme que contenerse le dé ventaja al otro.
La segunda es económica. Como expliqué en el primer artículo, las enormes inversiones en modelos, chips, centros de datos y energía deben justificarse por sus expectativas de rendimiento. Esa presión favorece lanzamientos rápidos, la expansión comercial y las promesas de capacidades futuras.
La tercera es la difusión. Aunque un laboratorio restrinja un modelo, otros desarrolladores pueden seguir avanzando. Los modelos abiertos amplían el acceso a capacidades útiles, pero, una vez publicados, es casi imposible controlar su distribución.
Por eso es poco realista esperar que una exhortación moral produzca una pausa mundial coordinada.
GOBERNAR TAMBIÉN IMPLICA PONER LÍMITES
Que una pausa general sea improbable no impide establecer restricciones específicas. Podemos exigir pruebas, limitar usos peligrosos, retirar sistemas que incumplan sus obligaciones y condicionar el acceso a capacidades de alto riesgo. Gobernar incluye decidir cuándo frenar.
Hay antecedentes útiles, aunque imperfectos. La competencia nuclear continuó, pero se establecieron tratados, inspecciones y restricciones. La aviación y los medicamentos desarrollaron mecanismos de certificación, vigilancia y reporte de fallas. Cada sector construyó instituciones para intervenir antes y después del daño.
En IA necesitamos evaluaciones independientes antes de desplegar los sistemas de mayor riesgo, obligación de informar incidentes, supervisión con capacidad técnica y consecuencias por incumplimiento. La transparencia debe permitir el escrutinio sin divulgar detalles que faciliten ataques.
Hasta las cabezas de las grandes corporaciones lo han exigido. Por ejemplo, recientemente, Brad Smith, presidente de Microsoft, dijo que una lavadora o un cartón de leche tienen más normas de seguridad que la IA. Afirmó que los compromisos existentes y un régimen de autorregulación no son suficientes. Propuso frenos de emergencia, reportes obligatorios de incidentes, avisar a las víctimas cuando un agente de IA escape del control humano y que evaluadores públicos independientes revisen los nuevos sistemas antes de lanzarlos.
Además, todos debemos luchar contra la discriminación, el fraude, las afectaciones laborales y los abusos contra menores. Una gobernanza centrada únicamente en escenarios catastróficos dejaría desprotegidas a las personas que ya las sufren.
El International AI Safety Report, en cuyo panel asesor participo, y el Panel Científico Internacional Independiente sobre IA de Naciones Unidas, establecido en 2025, contribuyen a reunir evidencia. El primer Diálogo Global sobre la Gobernanza de la IA se celebró en Ginebra en julio; el siguiente será en Nueva York en mayo de 2027.
Son avances necesarios. Pero producir evidencia y conversar no sustituyen la capacidad de actuar. Tampoco podemos exigir certeza absoluta antes de intervenir: hacen falta medidas proporcionales a los riesgos, revisables conforme aprendemos.
MÉXICO: DEPENDER TAMBIÉN ES UN RIESGO
El episodio de junio debería ser una llamada de atención para México. Los usuarios mexicanos de los modelos afectados quedaron sujetos a una decisión estadunidense, sin participación de nuestras autoridades. Eso es la dependencia tecnológica: un servicio puede cambiar de condiciones o desaparecer debido a decisiones tomadas fuera del país.
Participar en las cadenas de suministro de la IA tampoco garantiza influencia sobre sus usos. Podemos fabricar equipos y atraer centros de datos mientras las decisiones sobre modelos, acceso y distribución del valor se toman en otra parte.
PROPONGO TRES TAREAS URGENTES
Primero, construir capacidad propia de evaluación y supervisión, vinculando universidades, especialistas y autoridades, en cooperación con los institutos de seguridad de la IA de otros países. Necesitamos entender lo que contratamos y utilizamos, identificar riesgos y exigir responsabilidades.
Segundo, reducir dependencias mediante proveedores diversos, sistemas interoperables y planes de continuidad para servicios esenciales. Los modelos abiertos pueden ayudar, siempre que contemos con infraestructura y personal para operarlos y evaluarlos. Diversificar exige capacidad, no solo contratos.
Tercero, llevar propuestas concretas a los foros multilaterales: criterios transparentes para restringir el acceso, notificación previa cuando sea posible, mecanismos de revisión y protección de servicios esenciales. Las restricciones legítimas de seguridad deben tener justificación y límites, y los países usuarios necesitan voz en su diseño.
México no puede decidir por sí solo el ritmo mundial de la IA. Sí puede construir capacidad para evaluarla y aprovecharla, reducir sus dependencias y participar en las reglas que gobiernan su acceso y su uso.
Los frenos existen y ya se están usando. La verdadera pregunta para México no es si alguien debe poner una pausa, sino si nos resignaremos a que la mano en el freno sea siempre extranjera.