Durante décadas, el cine nos acostumbró a imaginar un futuro en el que las máquinas dejarían de obedecer. En 1986, Stephen King llevó esa idea a la pantalla con Maximum Overdrive, conocida como La rebelión de las Máquinas: el paso de un cometa provoca que automóviles, camiones, máquinas expendedoras y otros dispositivos comiencen a actuar por cuenta propia y se levanten contra sus creadores. La premisa parecía absurda y hasta exagerada, pero aceptable en el terreno de la ciencia ficción.
Cuarenta años después, las máquinas aún no toman conciencia para perseguirnos, pero la pregunta que alimentaba aquella película ya no parece tan extravagante: ¿qué ocurriría si construimos sistemas capaces de tomar decisiones y mejorar sus propias capacidades más rápido de lo que nosotros podemos comprenderlos o controlarlos?
Hace unos días, Jacob Coxon, investigador especializado en inteligencia artificial, renunció a Anthropic, una de las empresas más importantes del sector, y advirtió que entre quienes desarrollan estas tecnologías existe la preocupación de que una inteligencia artificial fuera de control pueda llegar a poner en riesgo a la humanidad antes de que termine esta década. Otro investigador de la empresa, Evan Hubinger, piensa que existe más de un 10 por ciento de probabilidad de que algo así pase durante la próxima década.
Si bien el escenario puede parecer extremo, resulta difícil ignorar una advertencia de tal magnitud cuando otras figuras de la industria, como Dario Amodei, director de Anthropic; Demis Hassabis, de Google DeepMind; y Sam Altman, de OpenAI, coinciden en la necesidad de moderar el desarrollo de los modelos más avanzados.
Y no necesariamente significa que un día vayamos a despertar con la imagen de una computadora programándose sola para exterminar a los seres humanos, sino que el peligro latente está en las capacidades de esos sistemas para manipular información, ejecutar ciberataques, intervenir infraestructuras, alterar mercados financieros, fabricar campañas de desinformación o tomar decisiones imprevistas con determinado objetivo.
Una falla, una instrucción mal diseñada o una capacidad de autonomía superior a los mecanismos de supervisión humana, podrían provocar consecuencias que atraviesen fronteras en cuestión de minutos. Y cuando energía, telecomunicaciones, sistemas bancarios, transporte, defensa, gobiernos y millones de empresas dependen de redes digitales interconectadas, el riesgo tecnológico se vuelve también económico y social.
Quizá por eso el desafío no sea detener la inteligencia artificial, sino aprender a controlarla antes de depender completamente de ella. Es preciso que comiencen a trazarse estándares internacionales, auditorías independientes, protocolos de emergencia, límites claros de autonomía y mecanismos que permitan desconectar sistemas críticos sin depender de la propia inteligencia artificial para hacerlo.
Y lo más importante: necesitamos prepararnos más como sociedad; educarnos para distinguir información real de contenido artificial, proteger empleos y economías frente a transformaciones abruptas y evitar que semejante poder quede concentrado en unas cuantas empresas o gobiernos.
Durante años hemos visto o leído historias sobre máquinas que escapan del control humano, pensando que se trataba únicamente de entretenimiento y ficción. Y aunque hasta ahora no hemos sido testigos de escenarios que demuestren lo contrario, ya no parece tan descabellado pensar que algún día las máquinas y la tecnología puedan dejarnos de lado y actuar por cuenta propia, sobre todo cuando algunos de quienes las diseñan y construyen comienzan a pedirnos que prestemos atención.