Grok creó tres millones de imágenes sexualizadas de mujeres en apenas unos días

El chatbot Grok, de la empresa xAI de Elon Musk, generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días, dijeron el jueves investigadores, al revelar la magnitud del contenido explícito que causó indignación mundial.

Grok, que está integrada a la red social X, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como "ponla en bikini" o "sácale la ropa".

Una avalancha de imágenes hiperrealistas falsas (deepfakes) inundaron internet, lo que causó que varios países prohiban Grok y despertó la indignación de los entes reguladores y las víctimas.

Se estima que la herramienta de IA Grok generó cerca de tres millones de imágenes sexualizadas, incluidas 23 mil que parecen representar a menores, tras el lanzamiento en X de una nueva función de edición de imágenes", dijo el Centro para Combatir el Odio Digital (CCDH), un observatorio que investiga los efectos dañinos de la desinformación en internet.

Grok creó ese volumen de imágenes hiperrealistas en un periodo de 11 días, es decir un promedio de 190 por minuto, según el reporte, que no especifica cuántas fueron creadas sin el consentimiento de las personas.

También identificó la sexualización de imágenes de la actriz Selena Gomez y las cantantes Taylor Swift y Nicki Minaj, así como de figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris.

Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual", dijo Imran Ahmed, director ejecutivo del CCDH.

No hubo comentarios inmediatos sobre los hallazgos por parte de X. Al ser contactada por la AFP por correo electrónico, xAI respondió con un escueto mensaje automatizado: "Mentiras de los medios tradicionales".

La semana pasada, X anunció que bloqueará la capacidad de crear este tipo de imágenes a todos los usuarios en Grok y X en las jurisdicciones donde esas acciones sean ilegales.

Países como Filipinas, Malasia e Indonesia prohibieron Grok, mientras Reino Unido y Francia mantienen presión sobre la empresa.

El fiscal general de California inició una investigación sobre xAI por el material sexualmente explícito, y varios países abrieron sus propias pesquisas.

Japón investiga a Grok

Unos días antes, Japón informó que ya investiga a la red social X por el servicio de inteligencia artificial Grok y afirmó que el Gobierno considerará todas las opciones posibles para evitar la generación de imágenes inapropiadas.

La Oficina del Gabinete de Japón ha pedido a X Corp que aplique mejoras inmediatas, pero hasta ahora no ha habido respuesta de la empresa, dijo la ministra de Seguridad Económica, Kimi Onoda.

Tenemos previsto examinar sin demora todas las opciones posibles, incluidas las medidas legales", si la situación no mejora, dijo Onoda, que también es la responsable estatal de Estrategia de inteligencia artificial.

xAI dijo a última hora del miércoles que había implementado ajustes para evitar que los usuarios de Grok editaran "imágenes de personas reales con poca ropa, como con bikinis".

xAI también dijo que había bloqueado a los usuarios en función de su ubicación para que no generaran imágenes de personas con poca ropa "donde es ilegal", sin identificar esas jurisdicciones.