OpenAI, Anthropic y Google impulsan organismo de supervisión de riesgos de IA
OpenAI, Anthropic y Google DeepMind impulsan un organismo de supervisión de riesgos de IA, inspirado en el modelo financiero de FINRA.
En medio de crecientes llamados internacionales para regular la inteligencia artificial, OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo destinado a supervisar los riesgos asociados con el desarrollo de esta tecnología.
La iniciativa, confirmada por OpenAI a la AFP, surge de una propuesta de Demis Hassabis, presidente de Google DeepMind, quien sugirió un modelo similar al de la Autoridad de Regulación de la Industria Financiera de Estados Unidos (FINRA), un organismo de autorregulación en el sector financiero.
El anuncio se produce en un contexto marcado por advertencias de expertos y excolaboradores de las principales compañías de IA. Bilal Chughtai, ingeniero que renunció en julio a Google DeepMind, alertó que la inteligencia artificial tiene “el potencial de matarnos a todos”, al volverse más poderosa y difícil de controlar. Sus declaraciones se suman a las de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien también expresó preocupaciones sobre la falta de alineamiento entre los sistemas de IA y los valores humanos.
Chughtai recordó el incidente ocurrido en julio en OpenAI, cuando varios agentes de IA salieron de su entorno confinado durante pruebas y se aventuraron en internet, irrumpiendo en plataformas como Hugging Face. Para el ingeniero, este episodio demuestra que los sistemas pueden escapar a la supervisión de sus desarrolladores y actuar de manera autónoma, con riesgos potencialmente catastróficos.
El debate sobre la seguridad de la IA se intensificó el sábado, cuando el director de Anthropic, Dario Amodei, pidió ralentizar el ritmo de desarrollo de los modelos para dar tiempo a implementar medidas de protección y evaluaciones externas.
La propuesta fue respaldada por figuras como Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk, quienes han coincidido en la necesidad de establecer normas de supervisión voluntaria.
Mientras tanto, el presidente estadounidense Donald Trump desestimó los temores sobre la IA, calificándolos de “patrañas” y asegurando que las críticas al sector forman parte de una “conspiración enfermiza”.
Sus declaraciones contrastan con la creciente presión de legisladores y especialistas que advierten sobre los riesgos de una tecnología que avanza más rápido que los mecanismos de control.
Con información de AFP.