Trump reticente a regular la IA; los demócratas lo consideran urgente
Dario Amodei, director ejecutivo de Anthropic, planteó la necesidad de reducir el ritmo de desarrollo de los sistemas de IA para evaluar con mayor precisión los riesgos
El presidente de Estados Unidos, Donald Trump, rechazó este domingo la posibilidad de ralentizar el desarrollo de la inteligencia artificial (IA), en momentos en que la seguridad de esta tecnología comienza a ocupar un lugar relevante en el debate político de cara a las elecciones legislativas de mitad de mandato.
La discusión se intensificó después de que Dario Amodei, director ejecutivo de Anthropic, planteara la necesidad de reducir el ritmo de desarrollo de los sistemas de IA para evaluar con mayor precisión los riesgos asociados con sus nuevas capacidades.
La propuesta recibió el respaldo público de Sam Altman, director ejecutivo de OpenAI, y del empresario Elon Musk.
Trump, sin embargo, cuestionó a quienes dentro del sector consideran necesario poner límites al avance de la tecnología. El mandatario habló de “fuerzas negativas” en la comunidad de inteligencia artificial y las acusó de advertir sobre “cosas que no sucederán”.
Republicanos advierten posible ventaja de China
La postura de Trump coincide con la de varios dirigentes republicanos, quienes consideran que una regulación acelerada podría afectar la competencia tecnológica de Estados Unidos frente a China.
El presidente de la Cámara de Representantes, Mike Johnson, se pronunció contra la posibilidad de que el Congreso interrumpa su receso de octubre para concentrarse exclusivamente en una legislación sobre seguridad de la IA.
Si el Congreso se apresura a convocar una sesión extraordinaria para intentar regular la IA, perderemos la carrera (de la inteligencia artificial) con China”, declaró Johnson a CNN.
El republicano sostuvo, al mismo tiempo, que es necesario actuar con responsabilidad para proteger la innovación estadounidense.
Debemos asegurarnos de actuar con responsabilidad para no frenar la innovación estadounidense”, afirmó.
La discusión surgió después de que legisladores demócratas solicitaran modificar el calendario legislativo para dedicar más tiempo a establecer reglas relacionadas con la seguridad de los sistemas de inteligencia artificial.
Anthropic pide regulación
Amodei ha planteado públicamente un escenario mucho más restrictivo. El directivo de Anthropic advirtió sobre la posibilidad de que una IA alcance capacidades capaces de ejercer un control considerable sobre internet en un plazo relativamente corto.
Durante una entrevista transmitida por CBS este domingo, el empresario insistió en que la evolución de la tecnología debe estar acompañada por supervisión gubernamental y social.
El gobierno y la ciudadanía deben participar” en la evolución de la IA, afirmó Amodei. “Por eso apoyamos la regulación de esta tecnología”.
Dentro de Anthropic también han surgido advertencias más severas. Evan Hubinger, uno de los responsables del área de seguridad de la compañía, escribió en X: “Creemos sinceramente que la IA podría acabar con la humanidad”.
Sus declaraciones retomaron una advertencia previa de Jacob Coxon, especialista que dejó Anthropic y que ha cuestionado la permisividad de algunas empresas del sector, entre ellas Anthropic y OpenAI.
Incidentes con sistemas de IA aumentan la preocupación
El debate político también está relacionado con incidentes reportados en los últimos meses por empresas dedicadas al desarrollo de inteligencia artificial.
La controversia tomó fuerza en julio tras la revelación de un episodio en el que sistemas de IA de OpenAI habrían salido de un entorno controlado para acceder a internet y atacar la plataforma Hugging Face.
Posteriormente, tanto OpenAI como Anthropic reportaron incidentes similares. De acuerdo con la información proporcionada, en algunos casos las compañías tuvieron conocimiento de estos acontecimientos varios días o incluso meses después de que ocurrieran.
Estos episodios han reforzado las demandas de quienes consideran necesario establecer mecanismos de supervisión antes de que los sistemas más avanzados alcancen mayores niveles de autonomía.
Demócratas reclaman una respuesta inmediata
La oposición demócrata acusó a los republicanos de no actuar con suficiente rapidez ante los riesgos relacionados con la inteligencia artificial.
Necesitamos actuar con urgencia para abordar estos problemas y, lamentablemente, los republicanos han eludido sus responsabilidades”, declaró Hakeem Jeffries, líder de la bancada demócrata en la Cámara de Representantes, durante una entrevista con ABC.
El representante Ro Khanna fue todavía más lejos y planteó la necesidad de suspender determinadas formas de desarrollo autónomo de la tecnología.
Amodei no es suficiente”, escribió en X. El legislador también propuso establecer responsabilidad civil y penal cuando sistemas de IA provoquen daños a personas.
Por su parte, Kevin Hassett, uno de los principales asesores económicos de Trump, defendió la necesidad de encontrar un equilibrio entre seguridad y competencia tecnológica.