OpenAI y Anthropic exponen ante la ONU los riesgos de la inteligencia artificial
Sam Altman pidió "extremo cuidado" con la IA ante el Consejo de Seguridad de la ONU.
El director ejecutivo de OpenAI, Sam Altman, advirtió el miércoles ante el Consejo de Seguridad de la ONU que la evolución actual de la inteligencia artificial "requiere un extremo cuidado", y señaló que el avance de esta tecnología podría acelerarse rápidamente en los próximos años.
"La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance", dijo Altman ante el máximo órgano de las Naciones Unidas.
Responsables de IA buscan un equilibrio ante el Consejo de Seguridad
Altman fue invitado, junto con Dario Amodei, de Anthropic, y el francés Clément Delangue, de la plataforma Hugging Face, a exponer ante los 15 miembros del consejo un panorama del estado actual de la inteligencia artificial. La reunión de emergencia ocurrió tras semanas de titulares en todo el mundo sobre los riesgos de una IA fuera de control y los llamados a frenar su desarrollo.
"No queremos caer en la trampa del optimismo ciego", señaló Altman, "pero tampoco podemos sucumbir al catastrofismo. Así que vamos a hacer todo lo posible por encontrar un término medio". El directivo recordó que OpenAI instó recientemente a que Estados Unidos lidere un esfuerzo global para fijar estándares en la materia.
Horas después, Amodei se dirigió al mismo consejo mediante un mensaje en video, en el que asumió un compromiso unilateral inédito para su empresa.
"Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro", declaró el director ejecutivo de Anthropic.
La postura de Amodei llega diez días después de que pidiera una desaceleración coordinada entre los principales actores de la inteligencia artificial, un llamado que hasta el momento no se ha concretado entre las empresas del sector.
La comparecencia conjunta de los tres directivos ante el Consejo de Seguridad refleja la creciente preocupación de gobiernos y organismos internacionales por el ritmo de desarrollo de sistemas cada vez más avanzados, sin un marco regulatorio global que los acompañe.
La sesión, convocada como reunión de emergencia, resulta poco habitual para un órgano centrado tradicionalmente en conflictos armados y crisis geopolíticas. Su convocatoria para discutir inteligencia artificial subraya hasta qué punto el tema se ha instalado en la agenda de máxima prioridad de la diplomacia mundial.
Ni Altman ni Amodei detallaron ante el consejo plazos concretos ni mecanismos de verificación para sus respectivos compromisos, lo que dejó abierta la pregunta sobre cómo se supervisará el cumplimiento de las promesas anunciadas por ambas compañías.
Delangue, por su parte, representó una visión distinta a la de los dos gigantes estadounidenses: Hugging Face funciona como una plataforma abierta que aloja modelos de IA desarrollados por investigadores y empresas de todo el mundo.