Deepfakes, una nueva arma en el corazón de la guerra

Vídeos manipulados, como el de Vladimir Putin anunciando la restitución de Crimea, han sido vistos masivamente. Esta guerra de información está evolucionando ahora.

Christine Dugoin-Clément / la conversación

Vladimir Putin anunciando la devolución de Crimea a Ucrania y su propia dimisión, o Volodymyr Zelensky declarando la rendición total de su país: estos vídeos totalmente inventados, y otros del mismo tipo, han sido vistos millones de veces en las redes sociales. Si Rusia, tanto en este ámbito como en el militar, lanzó hostilidades en 2014, Ucrania ha aprendido ahora a utilizar estos métodos –y otras herramientas de guerra informativa–, cuyo objetivo es siempre sembrar confusión en la opinión pública del país enemigo. .

Desde su invasión masiva de Ucrania, Rusia ha lanzado numerosos ataques informativos dirigidos a diferentes esferas de la sociedad ucraniana, así como a países que apoyan a Kiev –a través de operaciones como Döppelganger o Portal Kombat–, así como a países africanos, de Medio Oriente o asiáticos donde Moscú ha buscó difundir narrativas prorrusas.

Menos mencionado, los ucranianos llevaron a cabo varias acciones del mismo tipo, mezclando ciberataques y uso de IA para generar deepfakes, por parte de los ucranianos en el espacio informativo ruso, en particular para mostrar a la población rusa la realidad de una guerra que rápidamente no tuvo nada que ver. que ver con la llamada simple “operación militar especial” anunciada por el Kremlin.

Intentos de romper la burbuja. informativo ruso

Ya en marzo de 2022, el grupo Anonymous y el Squad 303 enviaron más de 5 millones de mensajes de texto a números de teléfonos móviles rusos para transmitir información sobre lo que realmente estaba sucediendo en Ucrania que los medios rusos no mostraban. Esta acción continúa hasta el día de hoy en forma del movimiento “Llamar a Rusia”, que convoca a voluntarios dispuestos a dar su tiempo para informar a la población rusa, atrapada en la burbuja informativa mantenida por el Kremlin.

El esfuerzo ucraniano rápidamente se centró también en los medios de comunicación rusos, con el objetivo de aprovechar su gran audiencia para transmitir mensajes al mayor número posible de espectadores. Así, y nuevamente desde el inicio del conflicto, los sitios de streaming Wink e Ivi, muy utilizados en Rusia, así como canales como Russia 24, La Première Chaîne y Moscú 24 fueron hackeados. Muchos rusos han visto imágenes de guerra de Ucrania en lugar de su petición inicial.

Al mismo tiempo, los ucranianos distribuyeron un deepfake para concienciar a los occidentales sobre la gravedad de la situación en Ucrania. Este último simulaba escenas de guerra que afectaban a la ciudad de París. Si el objetivo de sensibilización pudo lograrse gracias al realismo de la escena, en Rusia se observó un efecto perverso, donde el vídeo fue objeto de reutilizaciones indebidas.

Esta emisión permitió que varias voces rusas apoyaran entre la población su negación de la realidad del conflicto ucraniano, alegando que, dado que era posible producir falsificaciones tan realistas, varias imágenes que atestiguaban los bombardeos rusos sobre las ciudades de Ucrania y sus Los terribles daños causados ​​a la población civil también fueron falsificaciones generadas por la IA.

Las acciones utilizando deepfakes continuaron durante los meses de guerra. Por ejemplo, en 2023, el hackeo permitió la emisión en varios canales, especialmente en Ekaterimburgo y en localidades situadas en la región de Krasnoyarsk, de un clip en el que soldados ucranianos se preparaban para el combate o destruyeban tanques y vehículos de transporte rusos mientras la inscripción “El tiempo de Ha llegado el ajuste de cuentas” apareció en ucraniano.

Al mismo tiempo, otros canales como STS, Zvezda, Preguntas y Respuestas y REN TV vieron sus programas interrumpidos por imágenes del ballet. lago de los cisnesseguido de un vídeo que muestra a soldados ucranianos.

Para comprender plenamente la lógica de la difusión de la obra de Tchaikovsky, es necesario saber que lago de los cisnes Se convirtió en un símbolo de la censura soviética primero y luego de la rusa. El origen de este simbolismo se puede leer en la historia, donde la difusión de lago de los cisnes en televisión se asoció con un acontecimiento trágico (como la muerte de los líderes Brezhnev, Andropov y Chernenko). Este simbolismo se vio reforzado cuando en agosto de 1991, durante el golpe de estado contra Mijaíl Gorbachov, se retransmitió la danza de los pequeños cisnes, momento clave del ballet, en lugar de un reportaje en directo sobre los acontecimientos actuales.

Intensificación del uso de deepfakes

A principios de marzo de 2022 se emitió un primer deepfake ruso. En este contenido sintético vimos a Volodymyr Zelensky anunciando su rendición a las fuerzas rusas. Mal hecha, esta falsificación, realizada con la ayuda de IA, anunció otras que vendrían.

En territorio ruso, en junio, tras el mensaje “ha llegado la hora del ajuste de cuentas”, varios canales difundieron, debido a un hackeo, un deepfake que mostraba a Vladimir Putin y acompañado del texto “Llamada de emergencia del presidente”. En este contenido de aproximadamente un minuto, Putin anunció que el ejército ucraniano había entrado en tres regiones fronterizas, donde declaró la ley marcial y a cuyos habitantes instó a “evacuar en profundidad” hacia Rusia al tiempo que instauraba una movilización general, un tema sensible entre la población. .

El portavoz del presidente ruso, Dmitri Peskov, tuvo que desmentirlo.

No citaremos aquí todas las intrusiones recíprocas, pero sí mencionaremos una operación rusa particularmente significativa, la del 9 de mayo de 2024. Recordemos primero que, desde su independencia en 1991 hasta 2003, Ucrania conmemoró el fin de la Segunda Guerra Mundial. La guerra el 9 de mayo, como Rusia, y no el 8 de mayo, como Occidente. Tras el estallido de la invasión de 2022, Ucrania, deseando marcar su elección por el modelo de sociedad occidental y su desvinculación de Rusia, cambió de fecha y se alineó a partir de 2023 en el calendario de celebraciones occidentales, que representaba un fuerte símbolo. Y el 9 de mayo de 2024, unos 15 canales de televisión ucranianos vieron sus programas sustituidos por imágenes del desfile ruso. Un hack que también afectó al canal letón Baltcom.

Si no observamos un deepfake aquí, notaremos la técnica utilizada que apuntaba a los satélites de comunicaciones Astra, propiedad y operados por SES, una empresa con sede en Luxemburgo muy activa en el despliegue de constelaciones de satélites. Luego, SES indicó que este hackeo estaba lejos de ser un caso aislado.

un cumpleaños extraño

Es en este contexto que tuvo lugar una acción muy notable el 7 de octubre, día del 72 cumpleaños de Vladimir Putin. Este ataque tuvo como objetivo a VGTRK, proveedor de los principales medios estatales rusos, tras ser anunciado por el grupo Sudo rm-RF en su cuenta de Twitter.

En Krym24 TV, canal que emite en la anexada Crimea, los piratas informáticos lograron difundir un deepfake que simulaba una noticia en la que el presidente ruso anunciaba el fin de las operaciones militares en Ucrania así como su dimisión.

La intrusión en la red de VGTRK, un actor importante de la televisión estatal rusa que posee, entre otros, Rossiya-1 y Rossiya-24, puso de relieve una falla mientras Moscú continúa asegurando su esfera de información. Además, los piratas informáticos también destruyeron los archivos de la estructura y las copias de seguridad de vídeos y cintas de audio.

La magnitud de este ataque llevó a Dmitri Peskov a declarar que “nuestros medios estatales, uno de los más importantes, se enfrentaron a un ataque sin precedentes por parte de piratas informáticos contra su infraestructura digital”. Sudo rm-Rf no es su primer intento, ya que el grupo fue señalado en particular, en 2022, por un ataque dirigido a RuTube, el YouTube ruso, donde mensajes contra la guerra habían reemplazado los programas de canales de televisión rusos, y por otra operación, en 2023, dirigido a MosgorBTI, el sitio web de la oficina de registro de bienes raíces de Moscú.

¿Los medios de comunicación como objetivo preferente?

Los medios de comunicación, herramientas centrales de la información, se han convertido de hecho en objetivos privilegiados en el contexto de la guerra de información. Aunque aún no se ha medido el efecto real de estas intrusiones, sobre todo cuando se desenmascaran rápidamente, el uso cada vez más accesible de redes generativas adversarias (GAN), que permiten producir deepfakes, facilita la producción y distribución de estos vídeos. Además, los avances técnicos permiten hacer que estos contenidos sean cada vez más creíbles y, por tanto, cada vez menos fácilmente identificables sin utilizar métodos algorítmicos.

Por último, en un momento en el que gran parte de la población busca información en las redes sociales, cabe preguntarse cuál es el impacto de las acciones llevadas a cabo en estos medios, en particular si utilizan deepfakes que, dependiendo del cuidado que se tenga, pueden su realización será especialmente realista y, por tanto, creíble para un ser humano que no esté asistido por una solución de detección algorítmica.

Este artículo fue publicado originalmente en The Conversation. Watson cambió el título y los subtítulos. Haga clic aquí para leer el artículo original.