DayFR Spanish

Character.AI intensifica la seguridad de los adolescentes después de que los robots supuestamente causaran suicidio y autolesiones

-

En ambas demandas presentadas contra C.AI, los padres quieren ver el modelo destruido, no evolucionado. Esto se debe no solo a que consideran que los chats que experimentaron sus hijos son dañinos, sino que también creen que era inaceptable que C.AI entrenara su modelo en los chats de sus hijos.

Debido a que el modelo nunca pudo eliminar completamente sus datos, y debido a que C.AI supuestamente no logra determinar la edad de manera adecuada y actualmente no está claro cuántos datos de niños se utilizaron para entrenar el modelo de IA, han pedido a los tribunales que ordenen a C.AI. para eliminar el modelo.

Ars no pudo comunicarse de inmediato con los abogados que representan a las familias que demandaron para hacer comentarios, pero también es probable que los padres no estén satisfechos con el modelo adolescente separado porque consideran que el método de verificación de edad de C.AI es defectuoso.

Actualmente, la única forma en que C.AI controla la edad de la plataforma es pidiendo a los usuarios que informen sus edades por sí mismos. Para algunos niños que utilizan dispositivos con controles parentales estrictos, acceder a la aplicación puede ser más difícil, pero otros niños con menos reglas aparentemente podrían acceder al modelo para adultos mintiendo sobre sus edades. Eso es lo que sucedió en el caso de una niña cuya madre está demandando después de que la niña comenzó a usar C.AI cuando solo tenía 9 años, y supuestamente solo se ofrecía a usuarios de 12 años en adelante.

Ars pudo usar la misma dirección de correo electrónico para intentar registrarse como niño de 13 años, 16 años y adulto sin problemas para bloquear los reintentos.

El portavoz de C.AI le dijo a Ars que se supone que no debería funcionar de esa manera y le aseguró a Ars que se notificaría al equipo de confianza y seguridad de C.AI.

“Debes tener 13 años o más para crear una cuenta en Character.AI”, dijo el portavoz de C.AI en un comunicado proporcionado a Ars. “Los usuarios menores de 18 años reciben una experiencia diferente en la plataforma, incluido un modelo más conservador para reducir la probabilidad de encontrar contenido sensible o sugerente. La edad es autoinformada, como es el estándar de la industria en otras plataformas. Contamos con herramientas en la web y en la aplicación, lo que impide volver a intentarlo si alguien no pasa el límite de edad”.

Si usted o alguien que conoce tiene tendencias suicidas o está angustiado, llame al número de la Línea de vida para la prevención del suicidio, 1-800-273-TALK (8255), que lo pondrá en contacto con un centro de crisis local.

Related News :