ONU pide una ‘acción urgente’ para frenar la IA debido a riesgos sin precedentes
“Insto a los Estados y a las empresas a movilizarse urgentemente en el marco de instancias multilaterales”, señaló Volker Türk.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, lanzó una advertencia sobre el avance acelerado de la inteligencia artificial (IA) y pidió a gobiernos y empresas emprender una “acción urgente” para establecer mecanismos que permitan controlar los riesgos asociados con los sistemas más avanzados.
La preocupación del organismo internacional se centra en que el desarrollo de tecnologías cada vez más potentes podría tener consecuencias que trasciendan el ámbito tecnológico y alcancen derechos fundamentales.
Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, afirmó Türk en un comunicado.
Ante este escenario, el funcionario de Naciones Unidas llamó a los Estados y a las compañías tecnológicas a actuar mediante mecanismos de cooperación internacional.
Insto a los Estados y a las empresas a movilizarse urgentemente en el marco de instancias multilaterales”, señaló.
Todos los derechos humanos están en riesgo
La dimensión de la advertencia de Türk quedó reflejada en su señalamiento de que los posibles efectos de la IA no se limitan a la privacidad, el empleo, la información o la seguridad digital.
Todos los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida”, sostuvo el Alto Comisionado.
La declaración se produce en un momento en que crece el debate internacional sobre la velocidad con la que se desarrollan los modelos de inteligencia artificial y sobre si los gobiernos cuentan con mecanismos suficientes para anticipar y contener sus posibles consecuencias.
Para Türk, la carrera tecnológica actual representa un cambio de gran alcance.
La actual carrera hacia una IA cada vez más potente supone un cambio radical y expone todos los aspectos de nuestras vidas a un riesgo existencial cada vez mayor”, afirmó.
El planteamiento de Naciones Unidas coloca el debate más allá de la innovación tecnológica: el desafío, de acuerdo con el Alto Comisionado, consiste en establecer reglas que garanticen que el desarrollo de la IA tenga como prioridad la protección de las personas y sus derechos.
Directivos tecnológicos también piden frenar el ritmo
La preocupación expresada por Naciones Unidas coincide con llamados surgidos dentro de la propia industria tecnológica estadounidense para ralentizar el desarrollo de los sistemas de inteligencia artificial y contar con más tiempo para evaluar sus capacidades y riesgos.
El sábado, Dario Amodei, director ejecutivo de Anthropic, se pronunció a favor de una desaceleración que permita analizar de manera más adecuada los riesgos derivados de las nuevas capacidades de estos sistemas.
Su postura recibió públicamente el respaldo de Sam Altman, director ejecutivo de OpenAI, así como de Elon Musk, sumándose al creciente debate sobre los límites que deberían establecerse frente al desarrollo de modelos de IA cada vez más avanzados.
La coincidencia entre funcionarios internacionales y algunos de los principales actores de la industria refleja una preocupación común: la capacidad de la tecnología está avanzando con rapidez, mientras las sociedades todavía discuten cómo establecer controles adecuados.