¿Y si ejecutamos ChatGPT o Midjourney en un PC pequeño? Este es el objetivo de Nvidia y su minisupercomputadora especializada en IA generativa. Todo por un precio muy bajo de $249.
En un vídeo publicado en YouTube, el presidente de Nvidia, Jensen Huang, sacó literalmente del horno el Jetson Orin Nano Super Developer Kit, es decir, un kit de desarrollo, o más bien un pequeño ordenador. Un PC de alto rendimiento y muy compacto que permite operar la IA generativa de forma local. Su objetivo: integrarlo en muchos objetos conectados.
Ce« Frambuesa Pi » es capaz de ejecutar ChatGPT (o casi)
102 GB/s de ancho de banda y 67 billones de operaciones por segundo: este es el rendimiento de lo que parece una Raspberry Pi. Una placa base, un ventilador, chips y puertos: este no es uno de esos pequeños PC, sino un desarrollo de Nvidia. equipo.
La empresa lo vende a desarrolladores comerciales de IA que deseen integrarlo en sus dispositivos electrónicos. Para los más conocedores, sepan que este kit de desarrollo consta de un módulo de sistema (SoM) de 8 GB, equipado con una GPU Nvidia Ampere y una CPU Arm de 6 núcleos que llega hasta 1,7 GHz. Una arquitectura que permite ejecutar múltiples aplicaciones de IA simultáneamente. Para usos de visión por computadora, el kit puede admitir cuatro cámaras.
Lo que propone Nvidia es hacer funcionar la inteligencia artificial generativa” en local » en esta PC que cabe en tu mano. Todo con una fuente de alimentación pequeña: el dispositivo consume 25 W, lo que sigue siendo razonable. Es decir, no requiere conexión a Internet, sin utilizar servidores remotos. Ya sean chatbots impulsados por LLM, generadores de imágenes u otros, Nvidia presenta su Jetson Orin Nano Super como el “ solución ideal ».
El poder de este último no le permite operar un “ VERDADERO » ChatGPT o un « VERDADERO » Modelos de mitad de camino, pero un poco más pequeños.
Es muy posible imaginar esta tarjeta presente dentro de unos años en varios dispositivos. Un robot de cocina para crear recetas con la comida que tienes en tu nevera, por ejemplo. La gestión de cámaras podría permitir tener un sistema de videovigilancia inteligente, pero cuyos datos no se publican en línea en un servicio. El director de Nvidia incluso imagina robots totalmente autónomos funcionando en este pequeño ordenador.
Por qué Nvidia vende este kit de desarrollo
El Jetson Orin Nano Super es el soporte perfecto para que la empresa venda su software: Isaac para robótica, Metropolis para IA visual, Holoscan para procesamiento de cámaras o incluso LATTE3D para generación de objetos 3D.
Suficiente para crear un ecosistema de software y hardware para Nvidia, que ha entrado en la carrera por convertirse en un gigante de la inteligencia artificial. En 2024, la empresa experimentó un ascenso meteórico de poder: sus acciones subieron un 160% en un año. En términos de capitalización de mercado, la empresa asciende a 3.190 millones de dólares, detrás de Apple y Microsoft. Buenos resultados financieros debido a la creciente demanda de GPU, que se utilizan para ejecutar IA generativa en centros de datos. Con este pequeño PC, la empresa también quiere conquistar los dispositivos electrónicos que serán aún más complejos. Claramente, Nvidia tiene todas las armas para confirmar su liderazgo.