La IA genera preocupación en el entretenimiento para adultos

A finales de este mes, los berlineses podrán reservar una hora con una muñeca sexual artificial, ya que el primer burdel virtual del mundo ha puesto en marcha este servicio tras una fase de prueba.

Los clientes podrán interactuar verbal y físicamente con los muñecos de IA.

“Muchas personas se sienten más cómodas compartiendo asuntos privados con una máquina porque no juzga”, afirma Philipp Fussenegger, fundador y propietario de Cybrothel.

“Antes había un gran interés por las muñecas con actriz de doblaje, ya que los usuarios sólo podían escuchar la voz e interactuar con la muñeca. Hoy en día, la demanda de interacción con inteligencia artificial es aún mayor”.

Esta es solo una de las muchas formas en que la industria del entretenimiento para adultos utiliza la IA generativa.

Un análisis de SplitMetrics encontró que las aplicaciones complementarias de IA alcanzaron 225 millones de descargas en Google Play Store.

“Espero que más desarrolladores de aplicaciones tomen nota de esta tendencia y busquen formas de innovar y monetizar aún más esta categoría”, dijo Thomas Kriebernegg, director ejecutivo de SplitMetrics.

Los compañeros de IA pueden ser lucrativos, dice Misha Rykov, investigadora de privacidad de la guía Privacidad no incluida de Mozilla.

“Dado que la mayoría de los chatbots son pagos y la tecnología central se desarrolló en otros lugares [comme Open AI], este es un negocio de alto margen. Además, estas aplicaciones recopilan datos personales y a menudo los comparten con terceros, como anunciantes, un modelo de negocio probado”.

Pero la fusión de la IA y la industria del entretenimiento para adultos ha hecho saltar las alarmas.

Un problema son los sesgos inherentes a la IA generativa, que produce contenido nuevo basado en los datos con los que fue entrenada.

Existe el riesgo de que los estereotipos retrógrados sobre el sexo y el placer estén codificados en chatbots sexuales, dice el Dr. Kerry McInerney, investigador principal del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge.

“Es esencial que comprendamos qué tipos de datos se utilizan para entrenar chatbots sexuales; de lo contrario, corremos el riesgo de reproducir ideas sobre el sexo que degradan el placer femenino e ignoran las relaciones sexuales que existen fuera del sexo heterosexual”.

También existe el riesgo de adicción, según Rykov, quien dice que los chatbots de IA se dirigen a personas solitarias, especialmente hombres.

“La mayoría de los chatbots de IA que examinamos tienen un alto potencial de adicción y varios daños potenciales, particularmente para usuarios con problemas de salud mental”.

Mozilla añadió advertencias de contenido a varios chatbots de IA “porque encontramos temas de abuso, violencia y relaciones con menores”, dice Rykov.

También planteó la cuestión de la protección de la privacidad. Los chatbots asociados están diseñados para recopilar “una cantidad de datos personales sin precedentes”.

Rykov añade que el 90% de las aplicaciones revisadas por Mozilla “pueden compartir o vender datos personales”, mientras que más de la mitad de las aplicaciones no permiten a los usuarios eliminar sus datos personales.

Otros advierten sobre el peligro que la IA podría representar para las relaciones en el mundo real.

Tamara Hoyton, asesora principal del servicio de asesoramiento Relate, señala que “podrían surgir algunas dificultades si se establecieran relaciones reales”: “Pueden surgir algunas dificultades si los encuentros reales son profundamente decepcionantes porque no cumplen con los requisitos estrictamente definidos que los usuarios encuentran en el porno AI.

Hoyton añade que, en algunos casos, la IA pornográfica podría llevar a los usuarios a zonas peligrosas.

“No hay nada de malo en fantasear, y muchas personas se excitan con pensamientos que no tienen ninguna intención de representar; la pornografía con IA podría considerarse eso”.

“Si esto da como resultado una presunción de consentimiento, por ejemplo, un sentimiento de derecho, o que todos serán una fuente de entusiasmo, basándose en la experiencia del usuario sobre el cumplimiento del objeto de IA, entonces eso es un problema”.

Las empresas que utilizan la IA en la industria del entretenimiento para adultos reconocen la necesidad de actuar con cautela, pero sostienen que la IA tiene un papel importante que desempeñar.

Philipp Hamburger, jefe de IA de Lovehoney, dice que la compañía apunta a “mejorar la experiencia sexual de sus clientes, en lugar de reemplazarla, lo cual es una línea importante a trazar”.

Otros creen que la IA tendrá un efecto positivo en el sector. Rubén Cruz es cofundador de la agencia con sede en Barcelona The Clueless Agency, que creó a una de las primeras influencers de IA, Aitana López.

Señala que la industria del sexo siempre existirá y que la IA puede ayudar a aliviar las preocupaciones éticas al garantizar que el contenido no se cree con personas reales.

“Este cambio tiene como objetivo garantizar que ninguna persona, hombre o mujer, tenga que ser sexualizada explícitamente en el futuro”.