“ChatGPT está errante” e incluso su editor OpenAI “no puede detenerlo”: la asociación vienesa que lucha por la protección de la privacidad Noyb anunció el lunes la presentación de una denuncia en Austria contra el programa estrella de inteligencia artificial (IA) generativo.
Este tipo de herramientas “inventan respuestas regularmente”, subraya Noyb (por “None of your business”, que significa en inglés “It is not your business”) en un comunicado de prensa.
Por ejemplo, cuando preguntó a ChatGPT sobre la fecha de nacimiento de su fundador Max Schrems, el agente conversacional “sistemáticamente dio información falsa” en lugar de admitir que no lo sabía.
“Si un sistema no puede proporcionar resultados correctos y transparentes, no puede utilizarse para generar datos sobre individuos. La tecnología debe respetar la ley, y no al revés”, insiste el abogado Maartje de Graaf, citado en el comunicado.
Esto es simplemente “inaceptable”, según Noyb, quien recuerda que el Reglamento general europeo de protección de datos (RGPD) estipula la obligación de exactitud.
Sobre todo porque la empresa OpenAI “rechazó la solicitud del denunciante de corregir o borrar el error, alegando que era imposible”, siendo el desaprendizaje de la IA un problema crucial.
Tampoco respondió a su solicitud de acceso a los datos que le conciernen ni a las fuentes de información, lo que también constituye una violación de la ley.
En su denuncia, la asociación Noyb, que se ha convertido en la pesadilla de los gigantes tecnológicos desde su creación en 2018, pide a la autoridad austriaca de protección de datos que abra una investigación e imponga una multa a la empresa californiana.
