Señalan a ChatGPT de violar privacidad; información sensible y de menores de edad

Los reguladores de privacidad de Canadá concluyeron que OpenAI incumplió las leyes de protección de datos personales durante el desarrollo y entrenamiento de ChatGPT, al recopilar y utilizar información de millones de personas, incluidos menores de edad, sin un consentimiento válido y con controles insuficientes para evitar riesgos a la privacía.  

La resolución fue emitida ayer por la Oficina del Comisionado de Privacidad de Canadá y sus equivalentes de Quebec, Alberta y Columbia Británica, tras una investigación conjunta sobre las prácticas de recopilación y uso de datos de la empresa detrás de ChatGPT.

Las autoridades concluyeron que OpenAI obtuvo enormes volúmenes de información personal mediante el rastreo automatizado de sitios públicos de internet, redes sociales, foros y otras fuentes accesibles en línea para entrenar sus modelos de inteligencia artificial GPT-3.5 y GPT-4.

Según el informe oficial, los reguladores determinaron que la empresa realizó una recolección “excesivamente amplia” de datos personales y que no logró demostrar que las personas hubieran otorgado un consentimiento válido para que su información fuera utilizada en el entrenamiento de los sistemas de IA.

Las autoridades señalaron además que entre los datos recopilados podían encontrarse contenidos sensibles, incluidos temas de salud, opiniones políticas e información de menores de edad. 

De acuerdo con los reguladores, OpenAI tampoco fue suficientemente transparente sobre la manera en que recolectaba y procesaba la información utilizada para entrenar ChatGPT. 

El comisionado federal de privacidad, Philippe Dufresne, afirmó que el caso evidencia cómo las actuales tecnologías de inteligencia artificial están poniendo a prueba los límites de las leyes de privacidad existentes.

La investigación también detectó problemas relacionados con la precisión de la información generada por ChatGPT sobre individuos concretos.

Las autoridades indicaron que OpenAI no contaba con mecanismos adecuados para corregir datos inexactos ni para eliminar completamente información personal de sus modelos una vez incorporada al entrenamiento.

La compañía explicó que “desentrenar” un modelo de lenguaje para borrar datos específicos todavía no es técnicamente viable, por lo que opta por bloquear ciertas respuestas y excluir datos en futuros entrenamientos.

OpenAI, por su parte, aseguró que ha introducido cambios en sus políticas y herramientas de protección de datos desde el lanzamiento inicial de ChatGPT y que continuará colaborando con las autoridades canadienses.

Los señalamientos se dan luego de que a finales de abril la justicia de Estados Unidos recibió siete demandas contra OpenAI en nombre de familias afectadas por un tiroteo en un pueblo canadiense en febrero.

El gigante de la inteligencia artificial enfrenta críticas por su decisión de no haber informado sobre el uso perturbador de la cuenta de ChatGPT de Jesse Van Rootselaar, una mujer transgénero de 18 años que mató a ocho personas en su casa y una escuela.

Las demandas presentadas en un tribunal federal de Estados Unidos alegan que OpenAI decidió no denunciar a Van Rootselaar “porque informar de un caso significaría informar de miles”, según un comunicado del equipo legal.

Sin embargo,el director ejecutivo de OpenAI, Sam Altman, se disculpó ante la comunidad canadiense de Tumbler Ridge por no haber advertido a las autoridades.

Conclusiones sobre la empresa

·         La forma en que recopiló inicialmente información personal fue excesiva e inapropiada.

·         No obtuvo el consentimiento válido para la recopilación, el uso y la divulgación de información personal.

·         No cumplía con los requisitos de precisión establecidos en las leyes canadienses.

·         No proporcionaba adecuadamente a los usuarios la capacidad de acceder, corregir y eliminar su información personal.

·         No cumplió con sus obligaciones de rendición de cuentas con respecto a la información personal bajo su control.

·         Discrepó en general con las conclusiones, pero colaboró ampliamente con las Oficinas en un intento por resolver el asunto.