Una oradora hizo un descubrimiento peculiar: la foto que compartió en anticipación de un evento futuro en el que se suponía que hablaría fue reelaborada por inteligencia artificial. Parece que fue ligeramente sexualizada en el proceso. Una anécdota que indirectamente plantea la cuestión de cómo se entrenan las IA generativas.
¿Será necesario construir también inteligencias artificiales alejadas de los humanos, como lo que los internautas intentan hacer con la web? Esta es una de las preguntas que pueden surgir tras leer la historia compartida en X (antes Twitter) por Elizabeth Laraki, conferenciante estadounidense especializada en temas relacionados con la inteligencia artificial y la experiencia de usuario (UX).
En su mensaje publicado el 15 de octubre en la red social, relata una experiencia sorprendente que tuvo que afrontar. La foto que proporcionó para la próxima promoción de una conferencia a la que asistirá fue reelaborada por una IA generativa e incluso ligeramente sexualizada en el proceso.
Una blusa más abierta
En la foto inicial, la presentadora viste una blusa azul medio abierta en el cuello, que deja al descubierto un colgante. Pero la imagen fue reelaborada por IA (no se mencionó el tipo de servicio utilizado), la blusa se desabrochó aún más, para dejar al descubierto ligeramente una pieza de sujetador o ropa interior.
¿Una decisión de la organización de la conferencia de jugar con el atractivo sexual de los participantes? Parece, según explica Elizabeth Laraki, que se trata más bien de un resultado involuntario, consecuencia de una serie de errores en el proceso destinado a promocionar el evento. Una secuencia que cuenta en su tuit.
Según las investigaciones de los organizadores, informadas por Elizabeth Laraki, responsable de comunicación en sus redes sociales” usé una imagen recortada [de la conférencière, NDLR] desde su sitio web. Necesitaba que fuera más vertical, por lo que utilizó una herramienta de ampliación de imágenes para hacerlo más alto. “, dijo.
Por lo tanto, inteligencia artificial generativa” se le ocurrió la parte inferior de la imagen (en la que cree que las camisas de mujer deberían estar más desabrochadas, con algo de tensión en los botones, y dejar ver un pequeño indicio de algo debajo) “. Ropa interior que no existe en la foto real.
En la imagen falsa que proporciona, la presencia del sujetador es discreta, pero suficiente para engañar la vigilancia de quienes se encargaron de adaptar la foto para las redes sociales. Dicho esto, la buena noticia es que la situación rápidamente volvió a la normalidad: la foto falsa fue eliminada y se pidió disculpas.
Siga las novedades sobre IA con la newsletter de Numerama
Noticias Artificial
Quieres recibir el newsletter
Artificial en tu bandeja de entrada?
Los datos transmitidos a través de este formulario están destinados a PressTiC Numerama, en su calidad de responsable del tratamiento. Estos datos se procesan con su consentimiento con el fin de enviarle por correo electrónico noticias e información relacionada con el contenido editorial publicado en este sitio. Puede oponerse a estos correos electrónicos en cualquier momento haciendo clic en los enlaces para cancelar la suscripción en cada uno de ellos. Para más información puede consultar toda nuestra política sobre el tratamiento de sus datos personales.
Usted tiene derecho de acceso, rectificación, cancelación, limitación, portabilidad y oposición por motivos legítimos a los datos personales que le conciernen. Para ejercer uno de estos derechos, le invitamos a formular su solicitud a través de nuestro formulario de solicitud de ejercicio de derechos específico.
La cuestión de los datos de entrenamiento.
Esta historia, que es una anécdota, plantea sin embargo un problema técnico. Cualquier IA generativa se construye sobre la base de los datos de entrenamiento que se le proporcionan. Entrenar una IA para que reconozca a un gato, el método común en el aprendizaje profundo (aprendizaje profundo) implica exponer el modelo a otras imágenes de gatos.
Por lo tanto, el caso relatado por Elizabeth Laraki nos lleva a cuestionar el corpus de datos que permitió construir el modelo utilizado por la persona; En términos más generales, esto también lleva a la cuestión de cómo se representan o se representan a sí mismas las mujeres en Internet, si el servicio que formó a la modelo tomó fotografías en línea de forma gratuita.
Estos están lejos de ser temas nuevos. También fueron interrogados en otras circunstancias. En 2018, por ejemplo, un estudio del MIT destacó que algunos algoritmos estaban sobrecargados en fotografías de hombres blancos, lo que los hacía menos efectivos para personas de diferentes colores de piel.
Dependiendo del contenido del corpus utilizado para entrenar una inteligencia artificial, se corre el riesgo de reproducir, a través del sistema, prejuicios y estereotipos. Una cuestión que no está del todo resuelta en esta etapa, como muestra esta historia, y que también afecta al texto: en 2023, la forma en que se formó ChatGPT había estado en el centro de un debate político en Francia.
