Pausar la IA, el riesgo es demasiado alto. ¿La IA nos tiene en el filo de la navaja?

Por Rubén D. Arvizu*

Hace tan sólo unas semanas las noticias alarmantes sobre el uso de la Inteligencia Artificial (IA) eran, sobre todo, que estudiantes de preparatoria estaban recibiendo sus diplomas gracias a las respuestas hechas por medio de algoritmos. En pocas palabras, cero estudios y muchos chats que crean los jóvenes que se gradúan sin tener conocimientos. Además, se han registrado infinidad de situaciones donde el aislamiento de los jóvenes que dependen cada vez más del “amigo IA”, está ocasionando enajenaciones mentales y hasta suicidios.

Pero ahora ha aparecido algo más siniestro a nivel global. Primero fue un informante, el investigador Daniel Kokotajlo, quien dejó su trabajo en OpenAI afirmando que quienes están desarrollando más la IA podrían ocasionar el fin de la humanidad antes de que termine la presente década, ya que sobreestiman el poder de esta tecnología. Si dejamos a un lado las películas de Hollywood con sus ejércitos de robots soldados —que los expertos descartan porque la realidad técnica es muy distinta—, las verdaderas amenazas que plantean los científicos e investigadores apuntan a cosas más sutiles, rápidas y difíciles de controlar. Entre los escenarios que quitan el sueño a quienes estudian la seguridad de la IA están principalmente, la pérdida gradual de control de la automatización. No es que la IA “despierte de pronto” con malicia humana, sino de que los humanos le entreguemos voluntariamente las llaves de sistemas muy complejos y vitales (redes eléctricas, finanzas globales, cadenas de suministro y de armamento) a sistemas que cumplen sus metas e instrucciones al pie de la letra.

 Si una IA superinteligente recibe la orden de resolver un problema y calcula que la manera más eficiente de hacerlo va en contra del bienestar humano, seguiría fielmente sus órdenes simplemente porque son lógicas dentro de su código de aprovechar todo al máximo, sin que nadie pueda detenerla a tiempo. Un escenario de “apocalipsis” social no requiere aniquilación física. Si las inteligencias artificiales inundan el mundo con desinformación superrealista, estafas a escala global, total manipulación política y la destrucción de la confianza en lo que vemos o leemos, las democracias y las instituciones humanas simplemente se paralizarían por falta del sentido común de la realidad. 

Un ejemplo de esto es que, aunque haya avances científicos, una persona malintencionada, o una IA actuando con fallos de seguridad, podría diseñar infecciones sintéticas mortales o toxinas sin necesidad de tener un doctorado en bacteriología, causando catástrofes sanitarias difíciles de contener. Lo verdaderamente aterrador, como señalan los expertos, es que, a diferencia de otras tecnologías peligrosas, como la nuclear, el algoritmo avanzado es fácil de replicar, no requiere el uso de minerales raros y se mueve a la velocidad de la luz. Parte de estos ataques podría ser la desconexión del internet, de los sistemas que controlan y regulan la producción y distribución de energía, y de la navegación aérea. En pocas palabras, paralizar a la Tierra. 

Las mismas compañías que han creado el mundo IA, están diciendo que hay que hacer una pausa en el desarrollo algorítmico porque los riesgos son muy altos y que se necesitan urgentes medidas regulatorias de los gobiernos. Ante esto, Donald Trump declaró que “existe una conspiración enfermiza contra la inteligencia artificial” y agregó: “el único mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente con un alto coeficiente intelectual y Estados Unidos lo tiene de sobra.” 

Así que, amable lector, respire hondo y profundo: según esto, el destino de la humanidad, de los códigos nucleares y de la supervivencia del planeta queda oficialmente en manos del superego de un político en decadencia. Demos vuelta a la página, que aquí no ha pasado nada.

* Escritor y ambientalista. Director para América Latina de Ocean Futures Society de Jean-Michel Cousteau, y asociado de la Nuclear Age Peace Foundation