Imágenes sugerentes de chicas jóvenes generadas por IA impulsada por Facebook

Decenas de cuentas de Facebook difunden imágenes sexualizadas de menores generadas por inteligencia artificial, la Descifradoresacumulando miles de suscriptores, la mayoría hombres adultos. Una situación preocupante, según un especialista en la lucha contra la explotación infantil en la red, sobre todo porque este fenómeno parece fomentado por el algoritmo de la red social.

Con Alexis De Lancer

Te amo mucho.

¡Guau, qué belleza! ????

Aquí está mi número de teléfono. ¿Llámame? ♥️

Estos mensajes fueron escritos en la sección de comentarios de una foto publicada por una de estas páginas de Facebook. Muestra a una joven vestida con ropa ligera y con los ojos sonriendo. Aunque obviamente fue generado por inteligencia artificial, los autores de estos comentarios no parecen darse cuenta de ello.

La niña de la imagen parece una niña de no más de 12 años.

A juzgar por sus fotografías de perfil, la mayoría de los hombres que comentan tienen 40 años o más.

El fenómeno está lejos de ser aislado. En las últimas semanas, el Descifradores Pudimos encontrar algunas docenas de páginas de Facebook que practicaban las mismas prácticas. Están gestionados por personas ubicadas en Pakistán, Indonesia o Estados Unidos. Algunos tienen 10.000, 15.000 o incluso 20.000 suscriptores.

Es absolutamente indignante que imágenes como estas circulen libremente en plataformas como Facebook, afirma sin pestañear René Morin, portavoz francófono del Centro Canadiense para la Protección de la Infancia (CCPE).

Se trata de imágenes que, sin ser ilegales, se acercan, a veces al límite de lo que se podría considerar aceptable o incluso legal, añade. Desde nuestra perspectiva, sea falsa o no la imagen, constituye una forma de explotación infantil.

Explica además que las imágenes sexuales generadas por elIowa puede paralizar los servicios policiales al generar informes que deben ser investigados. Luego, la policía dedica recursos a encontrar una víctima que no existe, en detrimento de las víctimas reales.

Imágenes posiblemente legales, pero no menos dañinas

De hecho, el contenido de estas páginas no es explícito ni ilegal en sentido estricto: no vemos desnudez ni actos sexuales. Pero estas son colecciones de cientos de fotografías de niñas, la mayoría menores de edad, con atuendos diminutos o fotografiadas de manera sugerente. Una mezcla de imágenes generadas por elIowa y fotografías reales de chicas jóvenes, presumiblemente tomadas en otras plataformas, como Instagram o TikTok, y utilizadas sin el consentimiento de sus sujetos.

Las fotos se publican en su mayoría sin comentarios. El objetivo de estas páginas no parece ser comercial: no muestran publicidad ni enlaces a productos en venta. El objetivo de los hombres que se suscriben a estas páginas, en cambio, parece muy claro cuando se espía la sección de comentarios. Están aquí porque están interesados ​​en contenido sexualizado protagonizado por chicas jóvenes.

René Morin ve un riesgo claro, ya que estas páginas podrían servir como lugar de encuentro para desviados sexuales.

Lo que observamos en el centro de protección infantil es que a menudo las principales plataformas de redes sociales se utilizan como cebo.

Como podemos ver, estas imágenes provocan reacciones. En ocasiones, estas reacciones harán que las personas que las publiquen se reconozcan, creen vínculos entre ellos y eventualmente acaben en otras plataformas. Migrarán a otra plataforma menos pública y con menos restricciones.se lamenta.

No tuvimos que buscar muy lejos para encontrar estas páginas. Cuando empezamos a investigarlos, el algoritmo de Facebook empezó a sugerir otros. Páginas que difunden imágenes y vídeos de chicas adolescentes han invadido la sección “Reels y vídeos cortos” del sitio.

Por tanto, el algoritmo parece entender que alguien está interesado en este tipo de material y le ayuda a encontrarlo.

Según René Morin, los gobiernos deberían actuar para impedir que las grandes plataformas difundan dichos contenidos.

La solución pasa por una mejor regulación del espacio digital por parte de los gobiernos. Los crímenes que se perpetran contra nuestros niños todos los días tienen lugar en plataformas que nuestros hijos utilizan durante varias horas al día. De ahí el interés de que los gobiernos aprieten las tuercas a estas organizaciones.insiste.

Cuando enviamos a Facebook una lista de cuentas que publicaban dicho contenido, junto con una serie de preguntas, todas las cuentas que mencionamos fueron eliminadas. Un portavoz de Meta, la empresa matriz de Facebook, aseguró que la empresa se estaba tomando en serio este informe.

Nuestras políticas prohíben cualquier sexualización de menores, ya sea generada porIowa O nodijo. El portavoz añadió que Meta había desarrollado herramientas de detección y presentaba periódicamente informes a las autoridades pertinentes.

Hemos eliminado las cuentas afectadas y tomaremos medidas contra cualquier otra cuenta o contenido que identifiquemos que infringe nuestras políticas. Esta lucha continúa, ya que estos grupos adaptan constantemente sus tácticas en un intento de evadir la detección.apoya a la empresa.