Las recreaciones digitales de personas muertas están en la cúspide de la realidad y necesitan urgentemente una regulación, han argumentado los especialistas en ética de la IA, advirtiendo que los “robots muertos” podrían causar daño psicológico a sus creadores y usuarios, e incluso “perseguirlos”.
Estos servicios, que ya son técnicamente posibles de crear y legalmente permitidos, podrían permitir a los usuarios subir sus conversaciones con muertos relacionadas con “devolver a la abuela a la vida” en forma de chatbot, sugieren investigadores de la Universidad de Cambridge.
Pueden comercializarse para padres con enfermedades terminales que quieran dejar algo con lo que sus hijos interactúen, o simplemente venderse a personas aún sanas que quieran catalogar toda su vida y crear un legado interactivo.
Pero en cada caso, las empresas sin escrúpulos y las prácticas comerciales irreflexivas podrían causar daños psicológicos duraderos y fundamentalmente faltar el respeto a los derechos del fallecido, argumenta el documento.
“Los rápidos avances en la IA generativa significan que casi cualquier persona con acceso a Internet y algunos conocimientos básicos puede revivir a un ser querido fallecido”, afirmó la Dra. Katarzyna Nowaczyk-Basińska, una de las coautoras del estudio en el Centro Leverhulme para el futuro de la inteligencia de Cambridge (LCFI). ).
“Esta área de la IA es un campo minado ético. Es importante dar prioridad a la dignidad de los difuntos y garantizar que esto no se vea invadido por motivos económicos de servicios digitales de ultratumba, por ejemplo”.
Un riesgo son las empresas que monetizan sus servicios digitales heredados a través de la publicidad. Los usuarios de un servicio de este tipo pueden recibir una sorpresa cuando su ser querido recreado digitalmente comience a sugerirles que pidan comida para llevar en lugar de cocinar desde cero, sugiere el documento, lo que les llevará a la incómoda conclusión de que no fueron consultados sobre si sus datos podrían usarse en de tal forma.
Es posible obtener resultados mucho peores cuando los usuarios de dichos servicios son niños. Los padres que quieran ayudar a sus hijos a afrontar la pérdida de una madre o un padre pronto recurrirán a los deadbots.
Pero hay poca evidencia de que tal enfoque sea psicológicamente útil, y mucho sugiere que podría causar un daño significativo al cortocircuitar el proceso normal de duelo.
“Ningún servicio de recreación puede demostrar que permitir que los niños interactúen con ‘robots muertos’ sea beneficioso o, al menos, no perjudique a este grupo vulnerable”, advierte el documento.
Para preservar la dignidad de los muertos, así como el bienestar psicológico de los vivos, los investigadores sugieren un conjunto de mejores prácticas que incluso pueden requerir regulación para su aplicación.
Dichos servicios deberían tener procedimientos para “retirar” con sensibilidad los robots muertos, por ejemplo, y deberían limitar sus funciones interactivas sólo a adultos, además de ser muy transparentes sobre cómo operan y las limitaciones de cualquier sistema artificial.
después de la promoción del boletín
La idea de utilizar un sistema de inteligencia artificial estilo ChatGPT para recrear a un ser querido fallecido no es ciencia ficción. En 2021, Joshua Barbeau fue noticia después de usar GPT-3 para crear un chatbot que hablaba con la voz de su novia muerta, y seis años antes, la desarrolladora Eugenia Kuyda convirtió los mensajes de texto de una amiga cercana en un chatbot. lo que finalmente llevó a la creación de la popular aplicación complementaria de IA Replika.
La tecnología también va más allá de los chatbots. En 2021, el sitio de genealogía MyHeritage presentó Deep Nostalgia, una función que creaba vídeos animados de los antepasados de los usuarios a partir de fotografías fijas. Después de que la función se volviera viral, la empresa admitió que algunos usuarios “la encuentran espeluznante”.
“Los resultados pueden ser controvertidos y es difícil permanecer indiferente ante esta tecnología”, dijo MyHeritage en ese momento. “Esta característica está pensada para un uso nostálgico, es decir, para devolver la vida a nuestros queridos antepasados. Nuestros vídeos de conductores no incluyen discursos para evitar abusos, como la creación de vídeos ‘muy falsos’ de personas vivas”.
Un año después, MyHeritage presentó DeepStory, que permitía a los usuarios generar vídeos hablados.
){kind=link}