CES 2025 | Nvidia presenta el superordenador de IA Project DIGITS para el desarrollador de IA de escritorio
Nvidia ha presentado el superordenador de IA Project DIGITS para el usuario de sobremesa en el CES 2025. El superordenador cuenta con un superchip Grace Blackwell GB10 que permite a los usuarios de sobremesa ejecutar grandes modelos de lenguaje (LLM) de hasta 200.000 millones de parámetros de tamaño en una unidad, y de hasta 405.000 millones de parámetros en dos unidades conectadas en red.
El desarrollo de LLM de IA requiere ordenadores potentes para manejar la cantidad de datos que se procesan. Una medida de la potencia de un LLM es el número de parámetros con los que se desarrolla. Los modelos con un mayor número de parámetros suelen obtener mejores resultados en las pruebas de razonamiento y conocimiento de la IA.
La mayoría de los desarrolladores de IA de sobremesa utilizan GPU locales como la Nvidia 4090(a la venta aquí en Amazon) que están limitadas en cuanto a rendimiento y tamaño de los modelos, o servicios de GPU en la nube por suscripción que son más costosos. El tamaño de la RAM de la Nvidia 4090 limita el desarrollo de LLM a unos 30.000 millones de parámetros. Por desgracia, los recientes modelos de IA de código abierto superan con creces las capacidades del Nvidia 4090. Por ejemplo, Grok-1 de xAI es un modelo de 314 billones de parámetros.
El Proyecto DIGITS los maneja fácilmente en una configuración de dos unidades que utiliza adaptadores de red Nvidia ConnectX. Cada unidad contiene una CPU ARM de 20 núcleos, una GPU Nvidia Blackwell, 128 GB de RAM DDR5X y 4 TB de almacenamiento NVMe. Cada GPU Blackwell es capaz de 1 PetaFLOP de rendimiento de cálculo de IA FP4. Aunque el paso de FP16 o FP8 a FP4 reduce la precisión de cada cálculo, Nvidia ha dedicado muchos esfuerzos a permitir el desarrollo de LLM en FP4 con una precisión de salida similar. La GPU también es capaz de procesar los datos de entrenamiento LLM con mayor rapidez porque FP4 utiliza menos bits.
La principal ventaja de utilizar Project DIGITS frente a otras soluciones es la posibilidad de trasladar fácilmente los proyectos de los sistemas locales a la nube utilizando la misma arquitectura de GPU Grace Blackwell que se ejecuta en la plataforma Nvidia AI Enterprise. Los desarrolladores de IA interesados pueden inscribirse en el sitio Nvidia Project DIGITS para que se les notifique el lanzamiento previsto en mayo de 2025 de la unidad de más de 3.000 dólares.
Fuente(s)
NVIDIA pone a Grace Blackwell en todos los escritorios y al alcance de todos los desarrolladores de IA
El proyecto DIGITS de NVIDIA con el nuevo superchip GB10 debuta como el superordenador de IA más pequeño del mundo capaz de ejecutar modelos de 200.000 parámetros
6 de enero de 2025
NVIDIA pone a Grace Blackwell en todos los escritorios y al alcance de todos los desarrolladores de IA
CES-NVIDIA acaba de presentar NVIDIA® Project DIGITS, un superordenador personal de IA que proporciona a investigadores de IA, científicos de datos y estudiantes de todo el mundo acceso a la potencia de la plataforma NVIDIA Grace Blackwell.
El Proyecto DIGITS incorpora el nuevo superchip NVIDIA GB10 Grace Blackwell, que ofrece un petaflop de rendimiento de cálculo de IA para la creación de prototipos, el ajuste fino y la ejecución de grandes modelos de IA.
Con el Proyecto DIGITS, los usuarios pueden desarrollar y ejecutar inferencia sobre modelos utilizando su propio sistema de escritorio y, a continuación, implantar sin problemas los modelos en una infraestructura acelerada de nube o centro de datos.
"La IA se generalizará en todas las aplicaciones de todas las industrias. Con el Proyecto DIGITS, el superchip Grace Blackwell llega a millones de desarrolladores", afirma Jensen Huang, fundador y consejero delegado de NVIDIA. "Poner un superordenador de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les capacita para participar y dar forma a la era de la IA"
El superchip GB10 proporciona un petaflop de rendimiento eficiente en IA
El GB10 Superchip es un sistema en un chip (SoC) basado en la arquitectura Grace Blackwell de NVIDIA y proporciona hasta 1 petaflop de rendimiento de IA con precisión FP4.
GB10 incorpora una GPU Blackwell de NVIDIA con núcleos CUDA® de última generación y núcleos Tensor Cores de quinta generación, conectados a través de la interconexión chip a chip NVLink®-C2C a una CPU NVIDIA Grace™ de alto rendimiento, que incluye 20 núcleos de bajo consumo construidos con la arquitectura Arm. MediaTek, líder del mercado en diseños de SoC basados en Arm, ha colaborado en el diseño del GB10, contribuyendo a su eficiencia energética, rendimiento y conectividad, los mejores de su clase.
El superchip GB10 permite al Proyecto DIGITS ofrecer un potente rendimiento utilizando únicamente una toma de corriente eléctrica estándar. Cada Project DIGITS cuenta con 128 GB de memoria unificada y coherente y hasta 4 TB de almacenamiento NVMe. Con el superordenador, los desarrolladores pueden ejecutar modelos de lenguaje de gran tamaño de hasta 200.000 millones de parámetros para sobrealimentar la innovación en IA. Además, utilizando la red NVIDIA ConnectX®, dos superordenadores de IA del Proyecto DIGITS pueden conectarse para ejecutar modelos de hasta 405.000 millones de parámetros.
La supercomputación de IA Grace Blackwell al alcance de la mano
Con la arquitectura Grace Blackwell, las empresas y los investigadores pueden crear prototipos, afinar y probar modelos en sistemas Project DIGITS locales que ejecutan el SO NVIDIA DGX basado en Linux, y luego implementarlos sin problemas en NVIDIA DGX Cloud™, instancias aceleradas en la nube o infraestructura de centros de datos.
Esto permite a los desarrolladores crear prototipos de IA en Project DIGITS y luego escalarlos en la nube o en la infraestructura del centro de datos, utilizando la misma arquitectura Grace Blackwell y la plataforma de software NVIDIA AI Enterprise.
Los usuarios del Proyecto DIGITS pueden acceder a una amplia biblioteca de software de IA de NVIDIA para experimentación y creación de prototipos, que incluye kits de desarrollo de software, herramientas de orquestación, marcos de trabajo y modelos disponibles en el catálogo de NVIDIA NGC y en el portal para desarrolladores de NVIDIA. Los desarrolladores pueden afinar los modelos con el marco NVIDIA NeMo™, acelerar la ciencia de datos con las librerías NVIDIA RAPIDS™ y ejecutar marcos comunes como PyTorch, Python y los cuadernos Jupyter.
Para crear aplicaciones de IA agéntica, los usuarios también pueden aprovechar los microservicios NVIDIA Blueprints y NVIDIA NIM™, que están disponibles para investigación, desarrollo y pruebas a través del Programa para desarrolladores de NVIDIA. Cuando las aplicaciones de IA están listas para pasar de la experimentación a los entornos de producción, la licencia NVIDIA AI Enterprise proporciona seguridad de nivel empresarial, soporte y versiones de producto del software NVIDIA AI.
Disponibilidad
Project DIGITS estará disponible en mayo a través de NVIDIA y sus principales socios, a partir de 3.000 dólares. Inscríbase para recibir notificaciones hoy mismo.
