Desnudos falsos con consecuencias muy reales

La creación de imágenes hiperfalsas y sexualmente explícitas entre los jóvenes genera preocupación.

La creación de desnudos falsos mediante inteligencia artificial, utilizando la técnica del hiperfaking, o falsificación profunda, está ganando impulso en las escuelas secundarias de todo el país. Un fenómeno con graves consecuencias para las víctimas, que preocupa a los implicados en el sector.

En un instituto de Montreal, miembros de la administración y profesores reciben fotografías de chicas adolescentes desnudas del establecimiento. Fueron enviados por estudiantes del mismo año. Las imágenes son engañosas. Parecen reales a primera vista. El Servicio de Policía Municipal de Montreal (SPVM) abre una investigación. El veredicto ya está claro: las imágenes fueron generadas por inteligencia artificial a partir de fotografías vestidas de las víctimas menores. Pero las caras son reales.

Maya Alieh es sargento detective y supervisora ​​del módulo de ciberinvestigación de la SPVM. Fue su equipo el que investigó este asunto hace unos años. El evento se adelantó a su tiempo, dijo. Pero desde entonces se han reportado muchos otros casos similares en las escuelas. Y varios expertos hacen sonar la alarma.

“El fenómeno siempre se da de la misma manera. Tuve un caso similar este año”, subraya Maya Alieh.

Sólo este año, el agente de policía espera que la SPVM tenga entre 10 y 12 casos de desnudos falsos creados por adolescentes y que muestren a una o más adolescentes.

El Centro Canadiense para la Protección de la Infancia (CCPE) también observa un aumento de las denuncias en Canadá. En los últimos 12 meses, se han denunciado 4.000 casos de imágenes sexualmente explícitas de menores, entre ellos casos de pornografía infantil, sextorsión y desnudos falsos creados por adolescentes, según el portavoz René Morin.

Misma observación en la oficina de la Directora de Procesos Penales y Penales (DPCP). METRO^mi Maxime Ouellette, fiscal e impulsor del proyecto SEXTO creado en 2016, señala que “se está imponiendo una tendencia”. Hace entre 12 y 18 meses, escuchó poco sobre casos de desnudos falsos entre adolescentes.

Fenómeno reciente

Para mí^mi Ouellette y M^mi Para Joanny St-Pierre, también fiscal de la DPCP, las cifras todavía no son “alarmantes”, pero el fenómeno sí lo es.

El fenómeno es reciente y las imágenes no siempre se reconocen como falsas. Si las imágenes se crean pero no se informan, los números no se compilan.

“A menudo tenemos la imagen del tipo que se siente un poco avergonzado en su sótano y que no se atreve a entrar en contacto con los demás”, pero rara vez es así, explica M.^mi San Pedro. Los fiscales dicen que hay tantas razones para crear estas imágenes como adolescentes. Un adolescente podría descargar imágenes hiper retocadas de su novia “para reírse”; otra, la de un compañero de clase para acosarla o intimidarla.

Los sitios y aplicaciones, a menudo gratuitos, que permiten crear este tipo de imágenes se están desarrollando y multiplicando; restricciones que rigen los negocios y la educación de los jóvenes, no. “Estamos remando contra la corriente de las nuevas tecnologías”, subraya M.^{a mí} Alieh.

Algunos sitios o aplicaciones no se crearon para hiperfalsificar. Otros tienen cortafuegos. Sin embargo, el sargento detective del SPVM cree que “los jóvenes no tienen dificultades para utilizar los sitios”.

Según René Morin, el fenómeno actual de los desnudos falsos en nuestras escuelas recuerda al sexting de sus inicios, cuando tomaba por sorpresa a las escuelas.

Muchas consecuencias

Ansiedad, pensamientos suicidas, aislamiento, la búsqueda perpetua de eliminar fotos de desnudos en Internet: las consecuencias para las víctimas son tan graves como si las fotos fueran reales.

Las imágenes se consideran reales en un primer momento, pero la presión recae sobre los hombros de las víctimas, explica M.^mi San Pedro. El tratamiento de las víctimas por parte de las escuelas o la policía puede llevar varios días o incluso semanas, y tiene graves consecuencias.

Si los desnudos falsos corresponden a pornografía infantil, los jóvenes rara vez se dan cuenta de que sus acciones tienen implicaciones criminales.

Julie Miville-Dechêne es senadora independiente e impulsora del proyecto de ley federal sobre la exposición de los jóvenes a la pornografía. Para ella, la popularidad del fenómeno de los desnudos falsos entre los adolescentes es consecuencia directa de la normalización de la pornografía.

Actualmente, ninguna ley federal regula la hiperfalsificación de fotografías, audio o vídeos. El proyecto de ley C-27 sobre inteligencia artificial y el proyecto de ley C-63 sobre daños en línea se encuentran en primera lectura en la Cámara de los Comunes. Estas dos leyes permitirían regular el fenómeno.

Laurent Charlin, profesor asociado de HEC Montréal y titular de una cátedra Canadá-CIFAR en IA, reconoce que es fundamental promulgar leyes. Sin embargo, señala que esto no parece ser suficiente ya que los países no siempre tienen la capacidad de implementarlas y perseguir a las empresas infractoras. “Durante mucho tiempo no pensamos en la inteligencia artificial ética ni en las salvaguardias”, explica.

La mejor manera de afrontar el fenómeno de los desnudos falsos es concienciar a los jóvenes sobre las nuevas tecnologías y su impacto. “En 2024, deberíamos garantizar la seguridad digital de nuestros hijos, como cuando les enseñamos a nadar”, cree M.^mi San Pedro.