El proyecto DIGITS de NVIDIA con el nuevo superchip GB10 debuta como la supercomputadora de IA más pequeña del mundo capaz de ejecutar modelos de 200 mil millones de parámetros
CES—NVIDIA presentó hoy NVIDIA® Project DIGITS, una supercomputadora personal de IA que brinda a investigadores de IA, científicos de datos y estudiantes de todo el mundo acceso al poder de la plataforma NVIDIA Grace Blackwell.
Project DIGITS presenta el nuevo superchip NVIDIA GB10 Grace Blackwell, que ofrece un petaflop de rendimiento informático de IA para crear prototipos, ajustar y ejecutar grandes modelos de IA.
Con Project DIGITS, los usuarios pueden desarrollar y ejecutar inferencias en modelos utilizando su propio sistema de escritorio y luego implementar sin problemas los modelos en una infraestructura acelerada de nube o centro de datos.
“La IA será la corriente principal en todas las aplicaciones de todas las industrias. Con Project DIGITS, el Superchip Grace Blackwell llega a millones de desarrolladores”, afirmó Jensen Huang, fundador y director ejecutivo de NVIDIA. “Colocar una supercomputadora de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les permite participar y dar forma a la era de la IA”.
El superchip GB10 proporciona un petaflop de rendimiento de IA con eficiencia energética
El Superchip GB10 es un sistema en chip (SoC) basado en la arquitectura NVIDIA Grace Blackwell y ofrece hasta 1 petaflop de rendimiento de IA con precisión FP4.
GB10 cuenta con una GPU NVIDIA Blackwell con núcleos CUDA® de última generación y Tensor Cores de quinta generación, conectados a través de NVLink®-Interconexión de chip a chip C2C a una CPU NVIDIA Grace™ de alto rendimiento, que incluye 20 núcleos de bajo consumo construidos con la arquitectura Arm. MediaTek, líder del mercado en diseños de SoC basados en Arm, colaboró en el diseño del GB10, contribuyendo a su eficiencia energética, rendimiento y conectividad, los mejores de su clase.
El Superchip GB10 permite a Project DIGITS ofrecer un rendimiento potente utilizando únicamente una toma de corriente estándar. Cada Project DIGITS cuenta con 128 GB de memoria coherente y unificada y hasta 4 TB de almacenamiento NVMe. Con la supercomputadora, los desarrolladores pueden ejecutar grandes modelos de lenguaje con hasta 200 mil millones de parámetros para potenciar la innovación en IA. Además, utilizando NVIDIA ConnectX® En red, se pueden vincular dos supercomputadoras de IA del Proyecto DIGITS para ejecutar modelos de hasta 405 mil millones de parámetros.
La supercomputación de inteligencia artificial de Grace Blackwell al alcance de la mano
Con la arquitectura Grace Blackwell, las empresas y los investigadores pueden crear prototipos, ajustar y probar modelos en sistemas locales Project DIGITS que ejecutan el sistema operativo NVIDIA DGX basado en Linux y luego implementarlos sin problemas en NVIDIA DGX Cloud™, instancias de nube aceleradas o infraestructura de centro de datos.
Esto permite a los desarrolladores crear prototipos de IA en Project DIGITS y luego escalar en la nube o en la infraestructura del centro de datos, utilizando la misma arquitectura Grace Blackwell y la plataforma de software NVIDIA AI Enterprise.
Los usuarios de Project DIGITS pueden acceder a una extensa biblioteca de software de IA de NVIDIA para experimentación y creación de prototipos, incluidos kits de desarrollo de software, herramientas de orquestación, marcos y modelos disponibles en el catálogo de NVIDIA NGC y en el portal de desarrolladores de NVIDIA. Los desarrolladores pueden ajustar los modelos con el marco NVIDIA NeMo™, acelerar la ciencia de datos con las bibliotecas NVIDIA RAPIDS™ y ejecutar marcos comunes como los portátiles PyTorch, Python y Jupyter.
Para crear aplicaciones de IA agentes, los usuarios también pueden aprovechar los microservicios NVIDIA Blueprints y NVIDIA NIM™, que están disponibles para investigación, desarrollo y pruebas a través del Programa de Desarrolladores de NVIDIA. Cuando las aplicaciones de IA estén listas para pasar de los entornos de experimentación a los de producción, la licencia NVIDIA AI Enterprise proporciona seguridad, soporte y lanzamientos de productos de nivel empresarial del software NVIDIA AI.
Disponibilidad
Project DIGITS estará disponible en mayo a través de NVIDIA y sus principales socios, a partir de $3000. Regístrese para recibir notificaciones hoy.
