inteligencia artificial – La start-up californiana se enfrenta a numerosos procedimientos judiciales
Personaje. AI, una de las empresas emergentes líderes en inteligencia artificial (IA) generativa, ha anunciado nuevas medidas de seguridad para proteger a los usuarios jóvenes. La empresa californiana, que es una de las que ofrece chatbots (compañeros de IA), capaces de interactuar de forma similar a los humanos en línea, se enfrenta a numerosos procesos judiciales en Estados Unidos.
La plataforma, que alberga millones de personajes creados por usuarios basados en figuras históricas, amigos imaginarios o incluso conceptos abstractos, se ha vuelto popular entre los usuarios jóvenes que buscan apoyo emocional. Pero en los últimos meses, muchos profesionales vienen advirtiendo sobre los riesgos de adicción y conductas peligrosas entre los adolescentes vulnerables.
Un adolescente acaba con su vida hablando con un chatbot inspirado en Daenerys Targaryen
En una demanda presentada en Florida en octubre, una madre afirmó que la plataforma era responsable del suicidio de su hijo de 14 años. El adolescente, Sewell Setzer III, había entablado una relación íntima con un chatbot inspirado en el personaje de Game of Thrones Daenerys Targaryen, y había hablado de su deseo de acabar con su vida.
Según la denuncia, el robot lo animó a actuar, respondiéndole “te lo ruego, mi dulce rey” cuando le dijo que(…) Leer más en 20minutos
Lea también:
Gracias a ChatGPT, ahora puedes hablar… con Papá Noel
Salud mental: “Me hice el test, es buenísimo”… Tomar ChatGPT como psicólogo, ¿es tan buena idea?
Claude, Georges… ¿Por qué a los asistentes de IA generativa les encantan los nombres de pila de las personas mayores?
France
