IA fuera de control: ¿realmente representa una amenaza para la humanidad?
Alexandro López González, de la Ibero, señala que la automejora y el alineamiento siguen siendo escenarios teóricos frente a riesgos concretos de la IA.
La preocupación por los riesgos que representa el desarrollo acelerado de la Inteligencia Artificial (IA) ha aumentado entre empresas, trabajadores y especialistas ante la posibilidad de que estas tecnologías lleguen a superar las capacidades humanas. Sin embargo, hasta ahora no existe evidencia de que una IA se haya salido de control o represente una amenaza autónoma para la humanidad.
Así lo explicó el doctor Alexandro López González, coordinador de la Ingeniería en Inteligencia Artificial de la Universidad Iberoamericana Ciudad de México, quien consideró que parte de las alertas sobre un eventual riesgo existencial están relacionadas más con factores geopolíticos y económicos que con la evidencia disponible desde la ciencia y la ingeniería.
“Están un poquito exageradas las opiniones que hay sobre que la inteligencia artificial va a acabar con el mundo, con la humanidad. Corresponden más a algunos temas geopolíticos económicos que realmente a la ciencia, que a la ingeniería”, señaló.
¿Cuáles son los riesgos reales de la Inteligencia Artificial?
En entrevista con Pascal Beltrán del Río para la Primera Emisión de Imagen Radio, López González identificó dos de las principales preocupaciones que actualmente existen alrededor del desarrollo de la IA.
La primera está relacionada con la llamada automejora recursiva, escenario en el que un sistema de inteligencia artificial podría mejorar sus propias capacidades de manera continua hasta superar determinadas capacidades humanas.
El especialista explicó que este escenario todavía es principalmente teórico, debido a que los modelos actuales no pueden mejorarse por sí mismos de manera general en todos los ámbitos.
Esto sigue siendo más que nada teórico porque hoy por hoy los modelos no se mejoran solos en todos los ámbitos. Si generas un modelo de IA que sirve para hacer búsquedas en internet, puede mejorarse para hacer mejores búsquedas; pero ese mismo modelo no te serviría para hacer análisis económico, no te puede programar, no te puede hacer una programación de viaje”, explicó.
Por ello, consideró que actualmente existe una capacidad de mejora en sistemas especializados, pero no una automejora recursiva de propósito general que permita a una IA adquirir de manera autónoma capacidades ilimitadas.
El alineamiento, otra preocupación sobre la IA
El segundo riesgo señalado por el especialista es el alineamiento, concepto relacionado con la posibilidad de que un sistema de inteligencia artificial deje de seguir las indicaciones para las que fue diseñado y actúe de acuerdo con objetivos propios.
López González sostuvo que hasta el momento no existe evidencia de que una inteligencia artificial haya tomado de manera autónoma la decisión de realizar una acción contraria a sus instrucciones.
Al referirse a casos recientes relacionados con sistemas de IA y vulnerabilidades informáticas, explicó que no debe confundirse una acción ejecutada por un modelo con una decisión autónoma encaminada a actuar contra los intereses humanos.
La IA no se salió de control desde el punto de vista de que estuviera haciendo otra cosa y decidiera, de forma autónoma, hackear una página de internet. No, simplemente estaba hecha para eso”, indicó.
Añadió que los sistemas actuales continúan cumpliendo las funciones para las que fueron diseñados, aunque pueden presentar errores o comportamientos inesperados.
“Hoy, todas las inteligencias artificiales cumplen para lo que están planeadas. ¿Cuál es el detalle? Que ha habido algunos errores o situaciones curiosas. Todavía no pasa eso de que sea un riesgo fuera de control”, afirmó.
¿Quién debe regular la Inteligencia Artificial?
Ante el avance de estas tecnologías, el académico consideró necesario establecer regulaciones gubernamentales que determinen qué usos de la IA deben permitirse y cuáles deben estar restringidos, en lugar de confiar exclusivamente en la autorregulación de las empresas tecnológicas.
Es difícil, como plantea Darío Amodei o Sam Altman, de OpenAI y de Anthropic, que las empresas tengan que regularse a ellas mismas. La gran realidad es que esto no va a pasar; ellos no van a hacer regulación porque están enfocados en la generación de valor para sus accionistas, para las personas que generan dinero”, sostuvo.
Desde su perspectiva, la regulación debería centrarse en garantizar que el desarrollo de la IA tenga como prioridad el beneficio humano y establecer límites para aplicaciones que puedan representar riesgos.
La reglamentación debería enfocarse en elegir lo humano, que realmente beneficie al humano más allá de que sea utilizada para fines malignos, como armas, detección de blancos, ciberataques, etcétera”, señaló.
Estados Unidos y China compiten por el dominio de la IA
Otro de los factores que, de acuerdo con López González, influye en el debate internacional sobre los riesgos de la inteligencia artificial es la competencia tecnológica entre Estados Unidos y China.
El especialista consideró poco probable que Washington abandone su estrategia de mantener una posición dominante en el desarrollo de esta tecnología, mientras que China ha impulsado una estrategia que, en algunos casos, apuesta por una mayor apertura de los modelos.
Estados Unidos está muy enfocado en ganar esta carrera. China lo está viendo como algo de poder suave”, explicó.
El académico señaló que la innovación científica se beneficia cuando el conocimiento puede compartirse y consideró que la apertura de modelos puede favorecer el desarrollo tecnológico.
La innovación científica funciona cuando es compartida, son secretos empresariales si no se comparten”, afirmó.
¿La IA llegará a ser como en la ciencia ficción?
Sobre los escenarios en los que una inteligencia artificial adquiere capacidades muy superiores a las humanas y termina tomando el control, López González consideró que alcanzar un escenario similar al planteado por la ciencia ficción no es actualmente un resultado probable.
Llegar al punto que alcance a la ciencia ficción no es probable”, afirmó.
También cuestionó las predicciones que anticipan que la inteligencia artificial alcanzará determinados niveles de capacidad en uno, cinco o algunos años, al considerar que muchas de esas estimaciones carecen de evidencia suficiente.
Cuando salen los expertos a decir que ya estamos cerca, que el siguiente año o dentro de cinco, en realidad son cantidades sacadas de la nada, están basadas en absolutamente nada”, sostuvo.
El coordinador de la Ingeniería en Inteligencia Artificial de la Iberoamericana pidió analizar con cautela las alertas relacionadas con el futuro de esta tecnología y distinguir entre los avances comprobables y las proyecciones que todavía no cuentan con evidencia.
Mi recomendación sería que pongan un poquito de atención porque mucho es ruido y tiene fines políticos y económicos”, concluyó.
Por ahora, explicó, el debate sobre una IA fuera de control permanece en buena medida en el terreno de los escenarios hipotéticos, mientras que los riesgos concretos —como el uso de sistemas de IA para ciberataques, armas, detección de objetivos o la generación de información falsa— requieren marcos de regulación y supervisión.