Reino Unido exige a X frenar desnudos falsos generados por Grok

El gobierno británico instó el martes a la red social X, propiedad de Elon Musk, a encontrar una solución para evitar la proliferación de imágenes falsas de mujeres y niñas desnudas, generadas por Grok, su asistente de inteligencia artificial (IA).

"Lo que hemos estado viendo en internet en los últimos días ha sido absolutamente repugnante e inaceptable en una sociedad decente", declaró Liz Kendall, la ministra de Tecnología del gobierno laborista de Keir Starmer. "No podemos, y no permitiremos, la proliferación de estas imágenes humillantes y degradantes, que afectan de manera desproporcionada a mujeres y niñas. X debe solucionar este problema de manera urgente", insistió.

Grok, el asistente de IA de la red social propiedad del multimillonario estadounidense Elon Musk, es objeto de críticas después de que usuarios pudieran crear con su ayuda imágenes de carácter sexual de mujeres y menores.

Estas imágenes, realizadas al retocar fotos o videos de personas reales, han provocado protestas en todo el mundo. La Comisión Europea anunció el lunes que está revisando "muy seriamente" las denuncias sobre la herramienta.

"Reino Unido no tolerará la proliferación continua de contenidos repugnantes e injuriosos en línea", enfatizó Liz Kendall, añadiendo que respalda "plenamente" la acción del regulador británico Ofcom y "todas las medidas coercitivas que considere necesarias".

El Ofcom, organismo que regula la televisión, la radio, las telecomunicaciones y los servicios en línea en Reino Unido, anunció el lunes que solicitó a X información sobre cómo protege a sus usuarios, y no descartó iniciar una investigación formal.

Grok reconoció el viernes la existencia de "fallos" que permitieron a los usuarios obtener, con ayuda de este asistente de IA, imágenes de carácter sexual de menores o mujeres, y aseguró que las está corrigiendo "de manera urgente".

Según la legislación británica sobre seguridad en línea (Online Safety Act), las plataformas deben luchar contra la aparición de estos contenidos y actuar rápidamente para retirarlos. En caso de incumplimiento, se exponen a multas de hasta 18 millones de libras (unos 24 millones de dólares), o al 10% de su facturación mundial, en caso de que esta cantidad sea mayor que esa primera cifra.