Nolan Mariotte
Plus d’informations sur Hot Chips 34 ont été publiées et nous pouvons maintenant rencontrer NVIDIA Grace en détail. Au cas où vous ne vous en souviendriez pas, il s’agit du premier processeur de NVIDIA orienté vers le secteur des serveurs, et il le fait de manière considérable, offrant une puissance massive et le processus de fabrication 4 nm le plus avancé de TSMC.
Comme prévu, l’entreprise a suivi la tendance du marché, son CPU est donc basé sur une architecture ARM qui a été personnalisée pour l’entreprise afin de s’adapter parfaitement au marché actuel des serveurs et du calcul haute performance. . Pour cela, nous aurons deux configurations possibles, soit le ‘SUPERCHIP’ de deux CPU Grace, ou la combinaison d’un CPU Grace avec un GPU NVIDIA Hopper H100.
NVIDIA Grace offrira jusqu’à 144 cœurs ARMv9 avec 234 Mo de cache L3 et un TDP de 500 W
Passons à ce qui compte, les détails, et ceux-ci passent par l’offre d’une configuration pouvant aller jusqu’à 144 cœurs ARMv9 combinant deux processeurs Grace. Chaque CPU offre 72 de ces cœurs avec accès à 117 Mo de cache L3, 68 voies PCI-Express 4.0 et instructions SVE2 ainsi que diverses extensions de virtualisation telles que Nested Virtualization et S-EL2.
Il s’agit également du premier processeur au monde à prendre en charge l’utilisation de la RAM LPDDR5X ECC pour atteindre une bande passante de 1 To/s, et dispose d’une interface NVLINK C2C cohérente avec une bande passante allant jusqu’à 900 Go/s. Bidirectionnellement brut, ce qui est 7 fois plus rapide que PCIe 5.0. interface, tout en fonctionnant avec une interface très basse consommation de seulement 1,3 pJ/bit, soit 5 fois plus efficace que le protocole PCIe.
En fouillant dans les informations, il pourra utiliser jusqu’à 512 Go de LPDDR5X dans 32 canaux, ce qui fournit une bande passante mémoire allant jusqu’à 546 Go / s. NVIDIA affirme que la mémoire LPDDR5X offre la meilleure valeur compte tenu de la bande passante totale, du coût et des besoins en énergie.
Par exemple, la mémoire DDR5 consomme 8 fois plus d’énergie et offre une bande passante allant jusqu’à 358 Go/s, tandis que la HBM2e, offre une bande passante allant jusqu’à 1,8 To/s en consommant la même énergie, mais 64 Go triplent le prix par rapport à 512 GB LPDDR5X.
Quant aux 68 voies PCIe 5.0, au moins deux d’entre elles peuvent être utilisées pour quatre liaisons PCIe 5.0 x16 à 128 Go/s, le reste pouvant être utilisé à d’autres fins. Deux de ces liaisons PCIe 5.0 x16 peuvent être utilisées pour alimenter 12 voies NVLINK.
le processeur NVIDIA Grace offre déjà ses performances préliminaires dans les benchmarks
En ce qui concerne la consommation d’énergie, on peut s’attendre à ce que chaque Grace SUPERCHIP ait un TDP d’environ 250 W en introduisant la mémoire LPDDR5X elle-même dans l’équation (500 W avec le GPU), ce qui se traduit par une performance de 370 points sur SPEC Integer Performance. Pour référence, 2x AMD EPYC 7742 totalisent un TDP de 450W (sans mémoire) avec une performance de 667 points.
Deux CPU NVIDIA Grace promettent d’atteindre 740 points avec un TDP de 500W, proche des 861 points atteints par 2x AMD EPYC 7763 avec un TDP combiné de 560W (mémoire mise à part).
Ce n’est pas une grande différence de performances, mais il ne faut pas oublier que nous parlons de processeurs ARM à faible consommation par rapport à l’un des meilleurs processeurs x86 du marché pour les serveurs. A cela s’ajoute qu’ils occupent moins d’espace, cela est également lié à leur moindre consommation d’énergie (économie d’argent) et qu’ils nécessitent des solutions de refroidissement plus simples.
