“ChatGPT está errante” e incluso su editor OpenAI “no puede detenerlo”: la asociación vienesa que lucha por la protección de la privacidad Noyb anunció el lunes la presentación de una denuncia en Austria contra el programa estrella de inteligencia artificial (IA) generativo.
Este tipo de herramientas “inventan respuestas regularmente”, subraya Noyb (por “None of your business”, que significa en inglés “It is not your business”) en un comunicado de prensa.
Por ejemplo, cuando preguntó a ChatGPT sobre la fecha de nacimiento de su fundador Max Schrems, el agente conversacional “sistemáticamente dio información falsa” en lugar de admitir que no lo sabía.
“Si un sistema no puede proporcionar resultados correctos y transparentes, no puede utilizarse para generar datos sobre individuos. La tecnología debe respetar la ley, y no al revés”, insiste el abogado Maartje de Graaf, citado en el comunicado.
Esto es simplemente “inaceptable”, según Noyb, quien recuerda que el Reglamento general europeo de protección de datos (RGPD) estipula la obligación de exactitud.
Sobre todo porque la empresa OpenAI “rechazó la solicitud del denunciante de corregir o borrar el error, alegando que era imposible”, siendo el desaprendizaje de la IA un problema crucial.
Tampoco respondió a su solicitud de acceso a los datos que le conciernen ni a las fuentes de información, lo que también constituye una violación de la ley.
En su denuncia, la asociación Noyb, que se ha convertido en la pesadilla de los gigantes tecnológicos desde su creación en 2018, pide a la autoridad austriaca de protección de datos que abra una investigación e imponga una multa a la empresa californiana.
ChatGPT, que apareció en noviembre de 2022 y fue financiado por Microsoft, fue conquistado por usuarios impresionados por su capacidad para entregar ensayos, poemas o traducciones en segundos.
Pero ante los riesgos, se han iniciado procedimientos en varios países. Italia bloqueó temporalmente el programa en marzo de 2023, mientras la autoridad reguladora francesa (Cnil) comenzaba a examinar una serie de quejas.
También se ha creado un grupo de trabajo europeo para promover la cooperación.
“Queda por ver adónde nos llevará esto”, comenta Noyb, escéptico por el momento ante los esfuerzos de las autoridades por regular la inteligencia artificial.
