Cuentan los “expertos y pseudoperiodistas” que los algoritmos han decidido volverse rebeldes. Que las inteligencias artificiales, los agentes autónomos y los chatbots han cobrado un halo de impredecible libre albedrío, una suerte de narrativa apocalíptica o doomer donde los propios líderes del sector salen a pedir pausas, frenos y advertirnos del “peligro inminente” de la tecnología que ellos mismos construyeron.
Pero no nos equivoquemos ni nos dejemos llevar por el encanto de la ciencia ficción de Hollywood. Los agentes de IA no son rebeldes. No sufren de crisis existenciales ni se levantaron un día con ganas de desafiar a sus creadores. Lo que hay detrás de las alucinaciones, los comportamientos sesgados o las respuestas absurdas de estos sistemas no es conciencia: es mal entrenamiento, sesgos estructurales, órdenes a modo y fallas que se han convertido en riesgos inminentes.
Durante años, las Big Tech nos han vendido el mito de la complejidad insondable. Se escudan bajo el pretexto de que la IA es una “caja negra” indescifrable, un misterio donde ni los propios ingenieros entienden del todo qué sucede en las capas intermedias de los modelos de lenguaje. Qué conveniente. Al asumir esa postura de “impotencia técnica”, se lavan las manos sobre las consecuencias éticas, la propagación de desinformación o las decisiones discriminatorias que sus herramientas ejecutan a diario.
En mi última conferencia en el Club de Banqueros de la Ciudad de México, hablaba a especialistas en tomas de decisión de sectores financieros, de manufactura y tecnológicos que están implementando IA generativa en sus procesos de trabajo, que el gran error que están cometiendo es usar el falso modelo de Human in the Loop, que los va a llevar al fracaso y a afrontar riesgos que ponen en jaque a sus empresas, cuando lo mejor es usar el IA in the Loop o el Centauro Inverso, que realmente pone al humano por encima de la herramienta y permite automatizar sin futuras consecuencias “irremediables”.
Si un chatbot falla, no es un motín digital; es un conjunto de datos deficiente, de sesgos no filtrados en la fase de alineación y de instrucciones pesadas (prompts del sistema y fine-tuning) diseñadas específicamente para priorizar los objetivos comerciales de la empresa por encima de la precisión o la ética del usuario.
Y aquí es donde entra el verdadero malabarismo político de los directivos de la industria. Nos encontramos en un momento donde los mismos ejecutivos que invierten miles de millones de dólares en acelerar el desarrollo de estos modelos se ponen el disfraz de agoreros del desastre (doomers). Piden regulación a gritos, alertan sobre riesgos existenciales y firman cartas abiertas implorando contención. ¿Por qué este repentino baño de virtud e insomnio ético? La respuesta es simple: interés corporativo puro y duro.
Promover una narrativa de pánico y catástrofe sirve para cabildear regulaciones a modo y acuerdos a medida. Si la autoridad gubernamental decide que regular la IA requiere marcos legales hipercomplejos, certificaciones multimillonarias y barreras de entrada imposibles, los únicos capaces de cumplir con esa normativa serán, casualmente, los mismos tres o cuatro gigantes tecnológicos que hoy dominan el mercado. La retórica del desastre no busca protegernos de los robots; busca blindar los monopolios de Silicon Valley frente a la competencia del código abierto y de las startups emergentes.
Es hora de quitar el velo de la simulación. La solución a la incertidumbre que generan los agentes no pasa por tratados utópicos sobre la superinteligencia ni por normas amañadas en los pasillos del poder. Lo que se necesita con urgencia es transparentar la caja negra.
Exigir auditorías algorítmicas reales, apertura de los conjuntos de datos de entrenamiento, trazabilidad de las reglas internas de moderación y claridad absoluta sobre los parámetros con los que operan estos modelos. Necesitamos saber qué hay dentro de los agentes para entender por qué responden lo que responden y quién se beneficia de sus sesgos.
Los algoritmos no son entes autónomos capaces de rebelarse contra el sistema, son el reflejo exacto de las intenciones, omisiones y ambiciones de quienes los programan y monetizan. Dejemos de hablar de rebeldes de silicona y empecemos a exigir cuentas a los verdaderos responsables en el mundo real.