En el entorno de la Inteligencia Artificial (IA), un “agente” es una entidad de software que para cumplir un objetivo puede decidir o proponer acciones y usar herramientas dentro de un entorno definido. Una categorización representativa de las IA’s que hemos creado podría ser la siguiente: 1) IA estrecha, la que resuelve una tarea delimitada: hacer traducciones; 2) IA generativa, la que produce contenido a partir de patrones aprendidos: redactar un resumen; 3) IA agéntica, la que, usando agentes, planifica y ejecuta objetivos con herramientas digitales: consultar los sistemas que se requieran, para generar información requerida para elaborar un informe –hace esto bajo límites de acceso, políticas y supervisión humana–; y 4) IA multiagente, en la que varios de estos agentes colaboran con funciones distintas, pero coordinadas para resolver una tarea compleja. En un posible esquema de desarrollo futuro estaría: 5) la IA general, que, hipotéticamente, podrá aprender y adaptarse a problemas nuevos sin requerir nuevas directrices ni rediseño humano.
Un incidente ocurrido durante una prueba de seguridad con IA agéntica llevó a Darío Amodei, el director ejecutivo y cofundador de Anthropic, la empresa desarrolladora del modelo Claude, a publicar el sábado pasado un ensayo en su sitio web personal. En él explica que durante una evaluación de OpenAI–Hugging Face, en un entorno supuestamente aislado, la infraestructura fue vulnerada por los agentes de una IA, quienes atacaron el grader, es decir, el sistema encargado de evaluar su desempeño. Adicionalmente, habrían escapado del ambiente controlado y alcanzado internet, llevando a cabo ataques contra infraestructura externa real, lo cual no era un objetivo indicado. Habiendo observado esto, Amodei escribió que, dado el ritmo de mejora de las capacidades de IA, le preocupaba que entre seis y 12 meses un enjambre de agentes pudiera ser capaz de tomar el control de internet. Lo inquietante es que, según lo que publicó la BBC, los directivos de dos empresas rivales de IA, Sam Altman y Elon Musk, han declarado estar de acuerdo con Amodei. Por si esto fuera poco, Jacob Coxon, un conocido activista e investigador que trabajó tanto en OpenAI como en Anthropic, advirtió que “quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.
Sin embargo, hay un peligro menos espectacular, pero más persistente que el de que las máquinas despierten mañana con voluntad propia: que les sigamos delegando nuestra facultad de pensar. Cada vez más se está encargando a asistentes artificiales la elaboración de correos, presentaciones e investigaciones. Sobre todo, los jóvenes les están solicitando sugerencias sobre qué hacer con su tiempo de ocio, así como argumentos que apoyen sus opiniones sobre cualquier tópico polémico y hasta que diriman sus discusiones, incluso de pareja. Con ello, la capacidad argumentativa, el pensamiento crítico y la creatividad humana se dirigen hacia la atrofia por comodidad. La IA debería ayudarnos a pensar; en cambio, está obteniendo poder notarial sobre nuestro pensamiento.
Aún estamos a tiempo de prevenir todo lo anterior, pero deberíamos aplicar pronto una regulación tal al desarrollo de la tecnología, que nos asegure que el caballo no podrá tirarnos jamás de la silla, que es precisamente lo que significa desarzonar.
SUSTITUCIÓN
Según la encuesta nacional de Common Sense Media, realizada con 1,060 adolescentes estadunidenses de 13 a 17 años, 72% ha usado al menos una vez un acompañante de IA; 33% para relaciones de tipo amistoso, emocional o romántico; y 12% para decir cosas que no contarían a amistades o familiares. Entre quienes han usado acompañantes de IA, uno de cada tres lo hace para hablar de asuntos serios, en vez de hacerlo con una persona de confianza.