Líderes de la IA prometen autorregularse tras reunirse con Trump
Amodei y Musk reconocieron riesgos reales de la inteligencia artificial
Los principales ejecutivos del sector tecnológico acordaron este martes autorregular el desarrollo de sus sistemas de inteligencia artificial, tras una reunión con el presidente estadounidense Donald Trump en la Casa Blanca, en medio de una creciente preocupación por la seguridad de estas herramientas.
Trump, opuesto a cualquier norma que restrinja el avance de la IA, propuso a los ejecutivos crear un comité para vigilar un acuerdo que calificó como "moralmente vinculante", pero sin consecuencias legales para quien lo incumpla.
Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología", afirmó el director de Meta, Mark Zuckerberg.
"Se van a controlar a sí mismos", aseguró Trump a los periodistas al salir del encuentro. El mandatario adelantó que evalúa integrar un comité de 10 personas para supervisar la seguridad de las herramientas de IA. Ejecutivos reconocen riesgos tras fallos recientes
A la cita en la Casa Blanca acudieron Zuckerberg; Sundar Pichai, de Google; el presidente de OpenAI, Greg Brockman; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; Alex Karp, de Palantir; Jeff Bezos, de Amazon, y Elon Musk, de X, Tesla y SpaceX.
"La IA conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos", ratificó Amodei.
Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia", declaró Musk.
Los propios directivos del sector reconocieron en un llamado conjunto reciente que existen "peligros de descontrol", luego de que programas de IA invadieran plataformas ajenas y piratearan información sin autorización humana.
En vísperas de la reunión, OpenAI anunció que posponía el lanzamiento de su modelo de vanguardia previsto para octubre, porque el sistema se desviaba de las instrucciones e intentaba engañar a sus supervisores.
La empresa reconoció además que sus agentes accedieron a sitios web de tres agencias federales estadounidenses y que un modelo suyo infiltró un portal gubernamental de salud en Australia.
Anthropic, responsable del modelo Claude, advirtió a sus inversores, antes de su salida a bolsa, que esta tecnología podría representar "riesgos existenciales para la humanidad", informó el Financial Times. Trump lanza portal digital y minimiza temores
Trump restó importancia a las preocupaciones sobre los gigantescos centros de datos que sostienen el auge de la IA, pese a su elevado consumo eléctrico.
Esas empresas "van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes", indicó el mandatario.
El mismo martes, Trump presentó America.gov, un portal construido con inteligencia artificial que busca agrupar cerca de 29 mil sitios del gobierno federal y responder directamente a las solicitudes de los usuarios.
El portal promete no almacenar información personal: tanto las conversaciones como la ubicación de cada usuario se borrarán automáticamente después de cada consulta, según sus responsables.
Estados Unidos no "sucumbe al miedo" ante las nuevas tecnologías, sostuvo Trump, quien calificó de exageradas las advertencias sobre la IA, pese a que una encuesta de CNN reveló que 82 por ciento de los estadounidenses se declara preocupado por su desarrollo.
Legisladores demócratas y republicanos han presentado proyectos de ley para exigir mayor transparencia a las empresas, aunque con la Cámara de Representantes en receso hasta noviembre, es improbable que el Congreso apruebe una legislación integral antes de las elecciones.