Los principales institutos de investigación chinos vinculados al Ejército Popular de Liberación utilizaron el modelo Llama de Meta, disponible públicamente, para desarrollar una herramienta de inteligencia artificial para posibles aplicaciones militares, según artículos académicos y analistas.
En un artículo de junio revisado por Reuters, seis investigadores chinos de tres instituciones, incluidas dos bajo el principal brazo de investigación del Ejército Popular de Liberación (EPL), la Academia de Ciencias Militares (AMS), explican cómo utilizaron una versión temprana de la Llama de Meta como base de lo que ellos llaman “ChatBIT”.
Los investigadores utilizaron el modelo de lenguaje grande (LLM) Llama 2 13B que Meta lanzó en febrero de 2023, incorporando sus propios parámetros para construir una herramienta de inteligencia artificial de grado militar para recopilar y procesar inteligencia, y proporcionar información precisa y confiable para la toma de decisiones operativas.
ChatBIT ha sido refinado y “optimizado para tareas de diálogo y respuesta a preguntas en el ámbito militar”, según el documento. Superó a otros modelos de IA cuyas capacidades eran aproximadamente el 90% del potente ChatGPT-4 de OpenAI. Los investigadores no especificaron cómo definieron el rendimiento ni si se había implementado el modelo de IA.
“Esta es la primera vez que hay evidencia sustancial de que los expertos militares del EPL en China han buscado e intentado sistemáticamente aprovechar el poder de los LLM de código abierto, particularmente los de Meta, con fines militares”, dijo Sunny Cheung, investigador asociado en Jamestown. Fundación que se especializa en las tecnologías emergentes y de doble uso de China, incluida la IA.
Meta ha adoptado la publicación abierta de muchos de sus modelos de IA, incluida Llama. Impone restricciones a su uso, incluido el requisito de que los servicios con más de 700 millones de usuarios obtengan una licencia.
Los términos del acuerdo también prohíben el uso de los modelos para “industrias o aplicaciones militares, bélicas, nucleares, espionaje” y otras actividades sujetas a los controles de exportación de defensa de Estados Unidos, así como para el desarrollo de armas y contenidos destinados a “incitar y alentar violencia”.
Sin embargo, debido a que los modelos de Meta son públicos, la empresa tiene medios limitados para hacer cumplir estas disposiciones.
En respuesta a preguntas de Reuters, Meta citó su política de uso aceptable y dijo que estaba tomando medidas para prevenir el abuso.
“Cualquier uso de nuestros modelos por parte del Ejército Popular de Liberación no está autorizado y es contrario a nuestra política de uso aceptable”, dijo Molly Montgomery, directora de políticas públicas de Meta, en una entrevista telefónica con Reuters.
Los investigadores chinos incluyen a Geng Guotong y Li Weiwei del Centro de Investigación de Información Científica Militar del AMS y del Instituto Nacional de Innovación de Tecnología de Defensa, así como investigadores del Instituto de Tecnología de Beijing y la Universidad Minzu.
“En el futuro, con los avances tecnológicos, ChatBIT no sólo se aplicará al análisis de inteligencia, sino también a la planificación estratégica, el entrenamiento de simulación y la toma de decisiones de comando”, dice el documento.
El Ministerio de Defensa de China no respondió a una solicitud de comentarios, ni tampoco lo hicieron las instituciones o los investigadores.
Reuters no pudo confirmar las capacidades y la potencia informática de ChatBIT, aunque los investigadores señalaron que su modelo incorporaba sólo 100.000 grabaciones de diálogos militares, un número relativamente pequeño en comparación con otros LLM.
“Es una gota en el océano en comparación con la mayoría de estos modelos (que) están entrenados con billones de tokens… Me hace preguntarme qué logran realmente en términos de diferentes capacidades”, dijo Joelle Pineau, vicepresidenta de investigación de IA en Meta y profesor de informática en la Universidad McGill de Canadá.
La investigación se produce en medio de un acalorado debate dentro de las comunidades tecnológicas y de seguridad nacional de EE. UU. sobre si empresas como Meta deberían hacer que sus modelos estén disponibles públicamente.
En octubre de 2023, el presidente de Estados Unidos, Joe Biden, firmó una orden ejecutiva para regular los desarrollos de IA, señalando que, si bien la innovación puede tener beneficios sustanciales, también existen importantes riesgos de seguridad, como la eliminación de medidas de protección dentro del modelo.
Esta semana, Washington dijo que estaba ultimando reglas destinadas a frenar las inversiones estadounidenses en inteligencia artificial y otros sectores tecnológicos en China que podrían amenazar la seguridad nacional.
El portavoz del Pentágono, John Supple, dijo que el Departamento de Defensa reconoce que los modelos de código abierto tienen ventajas y desventajas, y que “continuaremos monitoreando y evaluando de cerca las capacidades de los competidores”.
GALLETA DE TARRO
Algunos observadores creen que el progreso de China en el desarrollo de IA autóctona, incluida la creación de docenas de laboratorios de investigación, ya ha impedido que el país reduzca la brecha tecnológica entre él y Estados Unidos.
En otro artículo académico revisado por Reuters, dos investigadores de la Aviation Industry Corporation of China (AVIC), que Estados Unidos ha nombrado como una empresa con vínculos con el EPL, describen el uso de Llama 2 para “entrenar en interferencias de guerra electrónica aérea”. estrategias.
El uso por parte de China de la IA desarrollada en Occidente también se ha extendido a la seguridad interna. Un artículo publicado en junio describe el uso de Llama como “inteligencia policial” para procesar grandes cantidades de datos y mejorar la toma de decisiones policiales.
En abril, el diario estatal PLA Daily publicó un comentario sobre cómo la IA podría ayudar a “acelerar la investigación y el desarrollo de armas y equipos”, desarrollar simulaciones de combate y mejorar la eficacia del entrenamiento militar.
“¿Se puede evitar que (China) entre en el tarro de las galletas? No, no veo cómo se podría hacer eso”, dijo a Reuters William Hannas, analista senior del Centro de Seguridad y Tecnología Emergente (CSET). de la Universidad de Georgetown. En un documento publicado en 2023, CSET identificó 370 instituciones chinas cuyos investigadores han publicado artículos sobre inteligencia artificial general, contribuyendo a la estrategia nacional de China para liderar el mundo en IA para 2030.
“Hay demasiada colaboración entre los mejores científicos chinos y los mejores científicos estadounidenses en el campo de la IA como para excluirlos de los desarrollos”, añadió Hannas.
