¿Terapeutas artificiales? especialistas alertan sobre apegos emocionales con la IA
Pablo Pruneda Gross, especialista de la UNAM, advirtió a Excélsior que la inteligencia artificial representa uno de los desafíos más complejos que ha enfrentado la humanidad.
La inteligencia artificial ya no solo organiza tareas, responde preguntas o genera textos. También comienza a ocupar espacios emocionales en la vida de miles de personas.
Usuarios que conversan durante horas con asistentes virtuales, jóvenes que usan chatbots como terapeutas y personas que encuentran acompañamiento afectivo en sistemas entrenados para responder siempre, sin cansancio y sin confrontación, forman parte de un fenómeno que empieza a preocupar dentro de la Universidad Nacional Autónoma de México.
“Hoy el uso de estos sistemas está generando apegos emocionales”, advirtió Pablo Pruneda Gross.
En entrevista con Excélsior, el especialista sostuvo que la inteligencia artificial representa uno de los desafíos más complejos que ha enfrentado la humanidad y aseguró que sus efectos ya están transformando no solo la tecnología, sino también la educación, la convivencia y la forma en que las personas construyen vínculos.
“No basta explicar que son modelos estadísticos sofisticados si del otro lado hay un usuario que está encontrando mecanismos de retribución afectiva”, señaló.
Pruneda Gross explicó que muchos sistemas funcionan como “terapeutas artificiales” permanentemente disponibles, complacientes y diseñados para mantener interacción constante con los usuarios.
“Cuando hablas con alguien que no es tu par sobre tus problemáticas puedes encontrar un aparente respaldo, pero jamás se va a equiparar con interactuar con una persona real”, afirmó.
Por ello, insistió en que el análisis de la inteligencia artificial no puede limitarse únicamente a especialistas técnicos o informáticos.
“No basta escuchar a quienes estudiamos derecho ni a los técnicos que conocen la tecnología. Tenemos que incorporar a filósofos, sociólogos, psicólogos y todas las áreas del conocimiento”, dijo.
En este escenario, la UNAM instaló recientemente el Consejo Coordinador de Inteligencia Artificial (CCOIA), organismo que busca articular especialistas de distintas disciplinas para enfrentar los retos éticos, educativos, tecnológicos y sociales derivados del avance acelerado de la IA.
Para Pruneda Gross, el fenómeno obliga incluso a replantear el papel histórico de la universidad pública.
“Tenemos que cuestionarnos desde cómo dar la educación, para qué darla y en qué condiciones”, expresó.
No hay un reto mayor para el derecho
Como abogado e investigador especializado en inteligencia artificial, Pruneda Gross reconoció que el avance de esta tecnología ya comenzó a rebasar la capacidad regulatoria de los estados.
“No encuentro en las referencias históricas del derecho un reto mayor para la humanidad y para la regulación que el reto de la inteligencia artificial”, comparó.
Y es que, a diferencia de otras tecnologías, la IA evoluciona a una velocidad que vuelve obsoletos muchos intentos regulatorios incluso antes de entrar en vigor.
Recordó que la Unión Europea tuvo que modificar su legislación sobre inteligencia artificial tras la irrupción de ChatGPT mientras el proceso legislativo ya estaba en marcha.
Además, agregó que la inteligencia artificial rompe las lógicas tradicionales de jurisdicción, pues los modelos tecnológicos operan globalmente mientras las leyes siguen limitadas por fronteras nacionales.
Ante ello, consideró que el debate no puede reducirse únicamente a sanciones o prohibiciones legales, sino que también debe incorporar marcos éticos y visiones multidisciplinarias.
La importancia de la soberanía tecnológica
Para el universitario, el gran tema hoy es construir soberanía tecnológica, pues actualmente el desarrollo más avanzado de modelos de IA se concentra principalmente en empresas privadas de Estados Unidos y China.
“La visión mexicana tiene algo que decirle al mundo y se tiene que hacer valer”, subrayó.
Pese a los riesgos, el especialista llamó a evitar posturas fatalistas frente a la inteligencia artificial y consideró inevitable aprender a convivir con ella.