“ChatGPT está errante” e incluso su editor OpenAI “no puede detenerlo”: una asociación vienesa que lucha por la protección de la privacidad anunció el lunes la presentación de una denuncia en Austria contra el programa estrella de inteligencia artificial (IA) generativa.
Este tipo de herramientas “inventan regularmente respuestas”, subraya Noyb (por “None of your business”, que significa en inglés “It is none of your business”) en un comunicado de prensa. Por ejemplo, cuando preguntó a ChatGPT sobre la fecha de nacimiento de su fundador Max Schrems, el agente conversacional “sistemáticamente dio información falsa” en lugar de admitir que no lo sabía.
“Si un sistema no puede proporcionar resultados correctos y transparentes, no puede utilizarse para generar datos sobre individuos. La tecnología debe respetar la ley y no al revés”, insiste el abogado Maartje de Graaf, citado en el comunicado. Esto es simplemente “inaceptable”, según Noyb, quien recuerda que el Reglamento general europeo de protección de datos (RGPD) estipula la obligación de exactitud.
Sobre todo porque la empresa OpenAI “rechazó la solicitud del denunciante de corregir o borrar el error, alegando que era imposible”, siendo el desaprendizaje de la IA un problema crucial. Tampoco respondió a su solicitud de acceso a los datos que le conciernen ni a las fuentes de información, lo que también constituye una violación de la ley.
Varios procedimientos
En su denuncia, la asociación Noyb, que se ha convertido en la pesadilla de los gigantes tecnológicos desde su creación en 2018, pide a la autoridad austriaca de protección de datos que abra una investigación e imponga una multa a la empresa californiana.
ChatGPT, que apareció en noviembre de 2022 y fue financiado por Microsoft, fue conquistado por usuarios impresionados por su capacidad para entregar ensayos, poemas o traducciones en segundos. Pero ante los riesgos, se han iniciado procedimientos en varios países. Italia bloqueó temporalmente el programa en marzo de 2023, mientras la autoridad reguladora francesa (Cnil) comenzaba a examinar una serie de quejas.
