El principio de Grok 2 es simple: escribe algunas palabras y la IA crea instantáneamente fotografías que son más reales que la vida real. ¿Emmanuel Macron estrechando la mano de Mussolini frente a Notre-Dame? Juego de niños. ¿Donald Trump y Jean-Luc Mélenchon en trajes espaciales? Hecho en segundos.
A diferencia de sus competidores DALL-E o Midjourney, que favorecen la representación artística, Grok 2 centra todo en el fotorrealismo. Aún más preocupante es que la IA de Musk prácticamente no impone restricciones éticas. Mientras ChatGPT se niega categóricamente a generar imágenes de personajes públicos, Grok 2 lo hace sin pestañear.
Esta ausencia de salvaguardias no es un descuido sino una estrategia deliberada que forma parte de la visión libertaria de Elon Musk. El multimillonario, que ya ha transformado Twitter en un templo de la desinformación, lo vuelve a hacer con una IA capaz de crear cualquier situación comprometedora que involucre a celebridades. Sólo queda prohibido el desnudo.
“Su naturaleza gratuita reduce el umbral de tecnicismo necesario para generar imágenes realistas falsas”advierte Tristan Mendès France, especialista en culturas digitales, al Fígaro. Con 25 imágenes generadas cada dos horas de forma gratuita, Los 600 millones de usuarios de X ahora pueden producir un flujo continuo de contenido engañoso.
https://x.com/ViolonViande/status/1868377074622439655
Amenaza a la democracia
El momento no podría ser más preocupante. Si bien 2024 fue un año de elecciones importantes en muchos países, especialmente en Estados Unidos, la llegada de Grok 2 hace temer una explosión de campañas de desinformación en el futuro. Los servicios de inteligencia occidentales ya han identificado redes organizadas, como “Portal Kombat”, que distribuyen contenidos prorrusos para desestabilizar la opinión pública. Las autoridades explican que las elecciones rumanas, en las que ganó la extrema derecha, estuvieron influenciadas en gran medida por TikTok.
La herramienta de Elon Musk les ofrece ahora un arma formidable. NoticiasGuardiaempresa especializada en el análisis de la desinformación, ya ha identificado 767 sitios de noticias falsas generados por IA, 15 de ellos en francés. Con la integración de las imágenes de Grok 2, estas plataformas ganarán credibilidad y viralidad.
Por el momento, algunas imperfecciones aún delatan el origen artificial de las imágenes: miradas extrañas, efectos borrosos sospechosos, textos ilegibles… Pero estos defectos podrían desaparecer pronto. Elon Musk ya anunció una versión 3 de Grok con potencia informática “10 a 20 veces mayor”. La IA pronto podría renderizar “sentencias legales extremadamente convincentes”según su creador.
Ante esta creciente amenaza, expertos y reguladores están haciendo sonar la alarma. Sin una supervisión estricta, Grok 2 bien podría convertirse en el arma letal de los comerciantes de desinformación, socavando aún más la confianza en la información en línea, que ya está gravemente dañada.
- Grok 2, la IA de Elon Musk, genera fotos ultrarrealistas de forma gratuita y casi sin restricciones éticas
- A diferencia de sus competidores, puede crear imágenes de figuras públicas en cualquier situación.
- Su facilidad de uso y su carácter gratuito lo convierten en la herramienta ideal para la desinformación masiva, particularmente preocupante en un contexto geopolítico ya tenso.
???? Para no perderte ninguna novedad de Presse-citron, síguenos en Google News y WhatsApp.
