La IA generativa permite a los ciberdelincuentes llevar a cabo ataques más sofisticados y convincentes para engañar a sus víctimas. La conciencia y la educación son cruciales para protegerse.
La inteligencia artificial, como cualquier avance tecnológico importante, conlleva la promesa de un progreso deslumbrante, pero también la amenaza de un uso malicioso. Lejos de escapar de ella, la IA, y más particularmente la IA generativa, se ha convertido en una herramienta preferida por los ciberdelincuentes, que siempre buscan nuevas armas para engañar y manipular a sus víctimas.
Capaz de crear contenido extraordinario en texto, audio o incluso video, la IA generativa traspasa los límites de la ingeniería social, más allá de los canales tradicionales como el correo electrónico. Desde las redes sociales hasta los mensajes de texto y las llamadas telefónicas, ningún canal de comunicación está a salvo de estos sofisticados ataques. Además, según el estudio Voice of the CISO 2024, el 64% de los CISO franceses creen que la IA generativa presenta un mayor riesgo de seguridad para su organización.
Conversaciones creíbles
El arte de la conversación, que alguna vez fue un dominio reservado a los humanos, ahora está al alcance de los ciberdelincuentes gracias a la IA generativa. Explotan el poder de los modelos de procesamiento del lenguaje para forjar conexiones virtuales engañosas con sus víctimas, entablando conversaciones de credibilidad inquietante. Se preocupan por cultivar pacientemente un clima de confianza, alimentando a veces estos intercambios virtuales durante semanas o incluso meses. ¿El objetivo final? Alienta a las víctimas a bajar la guardia y a llevar a cabo acciones con consecuencias potencialmente desastrosas: enviar dinero, invertir en una plataforma fraudulenta, compartir información confidencial… Alimentados por datos recogidos de las redes sociales, la mensajería instantánea y otras filtraciones de datos, estos modelos de IA producen resultados sorprendentemente realistas. respuestas, desdibujando así la línea entre intercambios auténticos y manipulaciones orquestadas en plataformas como Instagram, WhatsApp o Tinder.
Deepfakes ultrarrealistas
La IA generativa también ofrece a los ciberdelincuentes la capacidad de crear “deepfakes” inquietantemente realistas. Utilizando algoritmos de aprendizaje automático, diseñan vídeos falsos donde se puede imitar a la perfección la apariencia, la voz y los gestos de cualquier persona. Para ello, alimentan sus modelos de IA, en particular las redes generativas adversarias (GAN), con imágenes, vídeos y grabaciones de audio recopilados de Internet. ¿El resultado? Vídeos falsificados de tal calidad que resulta difícil distinguir lo real de lo falso. Estos deepfakes abren el camino a nuevas formas de suplantación de identidad, permitiendo, por ejemplo, imitar la voz de un ser querido para extraer dinero o información sensible de víctimas desprevenidas.
Ataques BEC (Business Email Compromise) personalizados
La IA generativa está demostrando ser una herramienta poderosa para superar las barreras lingüísticas y culturales, facilitando los ataques BEC (Business Email Compromise), también conocidos como estafas a directores ejecutivos, a escala internacional. Hasta ahora, los ciberdelincuentes se dirigían principalmente a los países de habla inglesa. Hoy, gracias a la IA, pueden adaptar fácilmente sus mensajes fraudulentos a otros idiomas y culturas, ampliando así su alcance a países como Japón, Corea o Emiratos Árabes. Recuerde que los ataques BEC se basan en el robo de identidad: los piratas informáticos se hacen pasar por directivos de la empresa para incentivar a los empleados a realizar transferencias o revelar información confidencial. La IA les permite crear mensajes personalizados muy convincentes en muchos idiomas, imitando perfectamente el estilo y el tono de la persona a la que se hacen pasar. El uso de deepfakes, ya sean mensajes de voz o vídeos, fortalece aún más la credibilidad de estas estafas.
Perfiles falsos y publicaciones automatizadas
La IA generativa también está demostrando ser una herramienta formidable para manipular la opinión pública en las redes sociales. Los ciberdelincuentes pueden crear perfiles falsos desde cero y automatizar la producción masiva de publicaciones e interacciones. Estos sofisticados modelos de IA son capaces de imitar el estilo y el tono de fuentes confiables, traducir contenido a diferentes idiomas e incluso manejar tareas repetitivas como responder mensajes. El objetivo de estos perfiles falsos es mezclarse entre la multitud de usuarios, entrar en contacto con posibles objetivos compartiendo sus intereses y ganarse su confianza. Una vez establecida esta confianza, los ciberdelincuentes pueden difundir ampliamente información falsa e intentar influir en las conversaciones en línea. Facebook, Instagram, foros de discusión… Ninguna plataforma está a salvo de estas campañas de manipulación automatizada.
La IA generativa ha abierto la caja de Pandora de las ciberamenazas. Al aprovechar el poder de esta tecnología, los ciberdelincuentes ahora pueden engañar a sus víctimas con una facilidad desconcertante, mezclándose con el panorama digital utilizando perfiles falsos, mensajes personalizados y videos falsos y gigantescos.
Ante estos peligros, la concienciación y la educación sobre los riesgos asociados a la IA generativa son fundamentales. Según el informe State of the Phish 2024, actualmente solo el 25% de las organizaciones francesas forman a sus usuarios en seguridad mediante IA generativa, aunque es fundamental observar críticamente la información que se nos presenta en línea para estar informados de las últimas técnicas de tratamiento. y conocer las medidas de protección a implementar. La capacitación específica, en particular para los responsables de datos confidenciales o transacciones financieras, es esencial para detener la ola de delitos cibernéticos impulsados por la IA.
