Nvidia presentó sus novedades para la supercomputación, que incluyen la GPU HGX H200 con arquitectura Hopper.
Esta, cuando se combina con una CPU Nvidia Grace, da como resultado el superchip Grace Hopper GH200, con 200 exaflops de rendimiento de IA.
El procesador gráfico HGX H200 se basa en la arquitectura Hopper, que mejora el rendimiento, e incluye núcleos NVIDIA H200 Tensor y la tecnología de memoria HBM3e.
Esta consta de una configuración pensada para acelerar los trabajos con IA generativa y los grandes modelos de lenguaje.
En concreto, H200 ofrece 141GB de memoria a 4,8 TB por segundo, y duplica (2,4x) el ancho de banda de su predecesor, Nvidia A100, como detalló la compañía en la conferencia de computación SC23.
La mejora en el rendimiento introducida en la arquitectura Hopper permite duplicar la velocidad de inferencia en Llama 2.
Este es un modelo de lenguaje de gran tamaño de Meta que consta de 70.000 millones de parámetros.
SUPERCHIP GH200
También permite avanzar en las cargas de trabajo de la computación alto rendimiento con la tecnología de interconexiones de alta velocidad NVIDIA NVLink y NVSwitch.
Puede encontrarse en configuraciones de cuatro y ocho vías, siendo esta última la que proporciona más de 32 petaflops de computación de aprendizaje profundo FP8 y 1,1TB de memoria agregada de alto ancho de banda.
H200 se dirige a centros de datos, tanto a los que funcionan bajo de manda, en la nube híbrida y en el extremo, y es compatible con las infraestrcuturas de las principales compañías del sector:
Amazon Web Services, Google Cloud, Microsoft Azure y Oracle Cloud. Desde Nvidia destacaron que la GPU H200 puede combinarse con una CPU Nvidia Grace.
Esto desemboca en “el superchip Grace Hopper GH200 con HBM3e”, esto es, “un módulo integrado diseñado para servir aplicaciones HPC e IA a escala gigante”.
200 EXAFLOPS DE RENDIMIENTO DE IA
Los centros impulsados por GH200 representan unos 200 exaflops de rendimiento de IA para impulsar la innovación científica.
Actualmente, y como se desveló en SC23, está en uso en el Centro de Supercomputación Jülich (Alemania), y el Centro Conjunto de Computación Avanzada de Alto Rendimiento (Japón).
También se encuentran el Centro de Computación Avanzada de Texas (Estados Unidos) y el Centro Nacional de Aplicaciones de Supercomputación de la Universidad de Illinois Urbana-Champaign (Estados Unidos).
También, afirma la empresa, se incluye a la Universidad de Bristol (Reino Unido).
Según Nvidia, Grace Hopper ha sido adoptada en acceso temprano para iniciativas de supercomputación por más de cien empresas, organizaciones y agencias gubernamentales de todo el mundo.
Fuente: EP.