Nvidia presenta el superchip Grace Hopper para cargas de trabajo centradas en IA
Aunque Nvidia no ofreció nada para jugadores en su keynote de Computex 2023, su presentación estuvo repleta de productos centrados en la IA. Entre ellos, el Grace Hopper Superchip, una combinación de CPU Grace y GPU Hopper. Alimentará DGX GH2000 de Nvidia de Nvidia y una plétora de otros servicios.
La CPU Grace incluye 72 núcleos de CPU Arm Neoverse V2, hasta 480 GB de RAM LPDDR5X (512 GB/s de ancho de banda de memoria) y 117 MB de caché L3. La GPU Hopper que la acompaña puede configurarse con hasta 96 GB de memoria HBM3 (hasta 4 TB/s de ancho de banda de memoria). Nvidia afirma que ofrece hasta 67 TFLOPS de rendimiento FP32. Del mismo modo, sus núcleos Tensor incluidos pueden hacer 67 TFLOPS de FP64.
Combinado, el superchip Grace Hopper puede consumir hasta 1.000 vatios de potencia, dependiendo de la configuración. La CPU y la GPU están conectadas a través de un módulo Nvlink que funciona a 900 GB/s, 5 veces más rápido que PCIe-Gen 5. La coherencia de la memoria permite que tanto la CPU como la GPU trabajen en paralelo. La coherencia de memoria permite que los subprocesos de la CPU y la GPU accedan a la memoria de los demás, lo que permite a su nuevo motor Transformer Engine entrenar modelos de IA 30 veces más rápido que las GPU existentes. En comparación con las soluciones basadas en x86, el superchip Grace Hopper es entre 2,75 y 3,9 veces más rápido.
Los dispositivos equipados con el superchip Grace Hopper ya están disponibles en muchas regiones, incluidos Estados Unidos y Europa. Si los últimos rumores son ciertos, podríamos ver una versión reducida del mismo junto a la próxima Nintendo Switch nintendo Switch.
Fuente(s)
