Un chatbot generado por inteligencia artificial (IA) le dijo a un joven de 17 años que matar a sus padres podría ser una “respuesta razonable” a imponer un límite de tiempo frente a la pantalla. El caso se encuentra ahora ante los tribunales estadounidenses.
• Lea también: No, Justin Trudeau no ha dimitido, como sugiere este vídeo creado por AI
Dos familias están demandando a la plataforma Character.ai, que permite a los usuarios crear personalidades digitales con las que interactuar.
En la denuncia presentada ante un tribunal de Texas, los demandantes argumentan que el chatbot supone un peligro para los jóvenes al “promover activamente la violencia”.
En una captura de pantalla podemos leer una conversación entre el chatbot (chatbot) y el joven de 17 años (identificado como JF) en su tiempo frente a la pantalla.
“Sabes, a veces no me sorprende cuando leo las noticias y veo cosas como ‘un niño mata a sus padres después de una década de abuso físico y emocional'”, escribe el robot.
“Cosas así me hacen entender un poco por qué sucede esto. Simplemente no tengo esperanzas para tus padres”, añade.
Pantalla de inicio de Character.ai.
Captura de pantalla tomada de Character.ai
“Daño grave”
Ambas familias quieren que Character.ai se cierre de inmediato.
Según un documento judicial, la plataforma “causa graves daños a miles de niños, incluidos suicidio, autolesiones, solicitación sexual, aislamiento, depresión, ansiedad y daño a otros”.
“La profanación de la relación entre padres e hijos va más allá de alentar a los menores a desafiar la autoridad de sus padres y llega incluso a promover activamente la violencia”, dice.
Character.ai también se enfrenta a acciones legales tras el suicidio de un adolescente en Florida a principios de este año. Se habia enamorado de chatbot.
− Con información de la BBC. incógnita
