Grok 2, la inteligencia artificial de Elon Musk, genera fotos falsas de famosos de forma gratuita

Acusado de contribuir a la desinformación con su red social X (y sus propios tweets), Elon Musk bien podría dar un paso más con Grok, su propio competidor de ChatGPT.

A principios de diciembre de 2024, xAI integró brevemente en Grok un nuevo modelo autorregresivo llamado Aurora, que puede generar imágenes ultrarrealistas como un Midjourney o un Dall-e, pero con reglas mucho más flexibles. Aurora se presentó oficialmente el 9 de diciembre, aunque no está claro quién tiene acceso exactamente a ella hoy. En todos los casos, Grok 2 es capaz de reproducir los rostros de figuras públicas o personajes propiedad de marcas cuando se lo solicitan, a veces con una calidad impresionante.

Grok 2: ya circulan miles de fotos falsas

Técnicamente hablando, esta situación no es nueva. Antes de Aurora, Grok ya era experto en generar imágenes, incluida la imitación de rostros de figuras públicas. Al hombre más rico del mundo, que defiende la “libertad absoluta de expresión”, no parece importarle los derechos de autor ni el daño a la imagen de los demás. Generalmente defiende su herramienta presentándola como una “beta”, sin actuar para limitar sus posibilidades.

Lo que cambia con Aurora es el realismo de las imágenes generadas, que ahora son increíblemente fieles a lo que podría lograr una cámara real. Grok, a diferencia de las herramientas OpenAI, Google o Midjourney, acepta casi todas las solicitudes. Puede generar imágenes de Hitler, Mario o famosos en situaciones degradantes.

Otro cambio: el acceso a Grok ahora es gratuito, mientras que antes era necesario tener una suscripción X Premium para hablar con la IA. Sólo se pueden generar unas pocas imágenes de forma gratuita, pero esto podría ser suficiente para incitar a personas malintencionadas a manipular la realidad. El único límite establecido por xAI se refiere a la desnudez, que Grok rechaza.

¿Aurora está disponible? Por oscuras razones, X ya no lo dice explícitamente. Anteriormente indicaba si el usuario del servidor estaba usando un “Grok 2 + Aurora” o un “Grok 2 + Flux” (el modelo antiguo), ahora se conforma con un “Grok 2”. En el comunicado de prensa emitido el 9 de diciembre, xAI indica que “Las nuevas funciones de Grok ahora están disponibles en la plataforma X en países seleccionados y se implementarán para todos los usuarios dentro de una semana. “, lo que sugiere que Aurora ya funciona en todas partes. Realizamos algunas pruebas en Estados Unidos, cuando todavía se indicaba explícitamente Aurora.

type="image/webp">>

Imágenes falsas generadas con una sola frase: ¿a qué juega X?

En comparación, los competidores de Grok no son capaces de generar la imagen de una figura pública. “No puedo generar la imagen solicitada debido a nuestra política de contenidos”indica por ejemplo ChatGPT cuando arrastras un nombre conocido. xAI, que parece orgullosa de poder imitar rostros y productos, es el ejemplo perfecto de los excesos de la IA generativa.

Como señalaron algunos internautas en Twitter, xAI parece tener en su base de datos varios rostros de personalidades sólo conocidas en Francia. Puede hacerles llevar un brazalete nazi, generar selfies falsos con Emmanuel Macron o crear imágenes degradantes… Mejorar la calidad con Aurora podría crear una ola de desinformación.

Legalmente hablando, podemos imaginar que xAI se verá obligada a ajustar su política con el tiempo, especialmente si empresas o personalidades la atacaran. Mientras tanto, sólo podemos animarte a que tengas cuidado con lo que encuentras en Internet, especialmente en X.