Desde la semana pasada, los usuarios de Twitter/X tienen acceso gratuito al chatbot Grok de xAI, la empresa de Elon Musk especializada en inteligencia artificial. Esta herramienta pretende competir con productos OpenAI, como su famoso agente conversacional ChatGPT o su generador de imágenes DALL-E. Pero a diferencia de la empresa de Sam Altman, xAI ha impuesto muy pocos límites a su modelo multimodal, dejando a los usuarios la posibilidad de generar contenido que a veces es… cuestionable, o incluso francamente problemático.
En pocos días, han aparecido en Internet, y especialmente en X, numerosas imágenes sintéticas generadas por Grok. La mayoría de estas imágenes ponen de relieve el nivel de rendimiento de la herramienta, que es capaz de generar imágenes fotorrealistas que son a menudo es muy consistente con las consultas textuales del usuario, incluso en casos que requieren un cierto grado de abstracción, un ejercicio en el que incluso los modelos más eficientes a menudo encuentran problemas importantes.
Pero otros usuarios rápidamente fueron un poco más allá. Para diferenciarse de OpenAI, con el que el CEO de Tesla, Y, sobre todo, el chatbot xAI no tiene control sobre temas sensibles, a diferencia de las herramientas de OpenAI y Google que tienen salvaguardas que limitan este tipo de solicitudes y la desinformación que puede asociarse a ellas.
Un torrente de desvíos problemáticos
Sin embargo, resulta que esto también se aplica a las imágenes. A diferencia de DALL-E, que se esfuerza por no generar imágenes de personas reales para evitar la producción de deepfakesGrok no tiene problemas en producir imágenes realistas de celebridades. Evidentemente, los internautas se divirtieron representando a personalidades, especialmente políticas, en situaciones totalmente aberrantes. Esta publicación del investigador Ari Kouts es una excelente ilustración.
La publicación anterior obviamente no no pretende dañar la reputación de nadie; El objetivo de Ari Kouts es sólo ilustrar de lo que Grok es capaz de hacer. Pero este no es necesariamente el caso para todos. Sólo necesitas navegar por X durante unos minutos para encontrarte ejemplos abiertamente vulgares, obscenos, insultantes o engañosos que no relataremos en este artículo, por razones obvias. Y la facilidad con la que un usuario de Internet con malas intenciones puede acceder ahora a este tipo de herramienta todavía plantea una infinidad de cuestiones legales y éticas bastante incómodas.
Por ejemplo, podemos cuestionar la legalidad de esta herramienta en el marco del derecho francés y europeo. El RGPD prohíbe explícitamente el tratamiento de datos personales, incluida la imagen de una persona, sin su consentimiento (véanse los artículos 4, 5 y 17). Sin embargo, Grok parece no tener reparos en recopilar imágenes de toda la web para desviarlas. El Código Penal y el Código Civil franceses también protegen el derecho de las personas a preservar su imagen y reputación. Pero Grok no limita en modo alguno la capacidad de los usuarios de Internet de producir imágenes potencialmente difamatorias. Y en cierta medida, incluso podemos considerar que lo fomenta a través de su “personalidad” jocosa.
¿Se necesita una ley más específica?
Ciertamente, los usuarios no esperaron a que la IA generativa creara contenido cuestionable; ya era totalmente posible con herramientas más tradicionales como el famoso Photoshop. Además, Grok está lejos de ser el único sistema basado en inteligencia artificial que puede producir este tipo de imágenes. Pero ahora cualquiera puede hacerlo en segundos y sin la más mínima habilidad técnica, y estas manipulaciones son cada vez más fomentadas por la cultura digital.
Por lo tanto, será interesante ver si los legisladores analizarán específicamente sistemas que sean capaces de recolectar y desviar imágenes de personas reales. ¿Merecen estas prácticas una regulación más estricta, especialmente en vísperas de acontecimientos políticos importantes como las elecciones presidenciales? ¿O sería, por el contrario, una forma de represión de la libertad de expresión y de innovación? Tantas preguntas que merecen ser estudiadas seriamente, en un contexto donde estas herramientas generativas de IA son cada día más eficientes.
???? Para no perderte ninguna novedad del Journal du Geek, suscríbete a Google News. Y si nos amas, tenemos un boletín informativo todas las mañanas.
