desarrollo de un metamodelo para detectar ‘deepfakes’

Con motivo de la ‘Semana Cibernética Europea’, que se celebra del 19 al 21 de noviembre en Rennes, cuyo tema es el de la inteligencia artificial, los equipos de Tales participó en el Desafío AID (Agencia de Innovación en Defensa). Como parte de este desafío relacionado con la detección de imágenes generadas por plataformas modernas de IA, los equipos de cortAIx, el acelerador de IA de Thales, han desarrollado un metamodelo para detectar imágenes generadas por IA (‘deepfakes ‘).

Esta herramienta tiene como objetivo lucha contra la manipulación de imágenespara diferentes casos de uso, como la lucha contra el fraude de identidad.

Este metamodelo de Thales se basa en una agregación de modelos, cada uno de los cuales asigna una puntuación de autenticidad a cada imagen. Se basa en técnicas de ‘aprendizaje automático’, árboles de decisión, y evaluación de las fortalezas y debilidades de cada modelo para analizar la autenticidad de una imagen.

El equipo ‘Friendly Hackers’, que está en el origen de esta invención, forma parte de cortAIx, el acelerador de IA de Thales, que cuenta con más de 600 investigadores e ingenieros de IA, 150 de ellos basados ​​en la meseta de Saclay. Los ‘Friendly Hackers’ del grupo han desarrollado una caja de herramientas, la ‘BattleBox’, cuyo objetivo es facilitar la evaluación de la robustez de los sistemas que integran IA frente a ataques destinados a explotar las vulnerabilidades de diferentes modelos de IA (incluidos Modelos de lenguaje grandes).