Nolan Mariotte
L’AX800 est l’un des éléments matériels les plus rares de NVIDIA observés ces derniers temps. Il combine deux types de composants très typiques pour les serveurs, mais que l’on trouve généralement séparément : un DPU d’un côté et un GPU HPC A100 de l’autre. D’un côté, un DPU et de l’autre, un GPU HPC A100. Qu’est-ce qui rend cette bizarrerie matérielle si particulière ?
Dans le monde des serveurs, les puces connues sous le nom de DPU sont à l’ordre du jour. Ces puces sont conçues pour traiter des volumes importants de données et visent à libérer le CPU du système pour qu’il puisse effectuer ces tâches. Depuis l’acquisition de Mellanox par NVIDIA, cette dernière crée des produits qui ne sont pas seulement des cartes graphiques, mais qui sont également basés sur l’unité de traitement de données BlueField. Bien entendu, le produit dont il est question dans cet article combine les deux éléments.
NVIDIA AX800, GPU+DPU sur une seule carte PCI Express
Il s’agit d’un de ces composants que l’on ne voit que dans le monde des serveurs, mais cela ne nous rend pas moins curieux. Techniquement, il s’agit de deux composants différents sur un seul PCB, mais qui partagent l’accès au même port PCI Express 5.0. Ils doivent donc partager l’accès au CPU et à la RAM du système, ainsi qu’à l’alimentation, qui fournit 350 W à l’AX800.
Spécifications DPU
Dans le cas présent, on peut considérer qu’il s’agit d’un serveur ARM sur une carte PCI Express, puisque la puce DPU a les spécifications techniques suivantes :
- 16 cœurs ARM Cortex A78 à 2,3 GHz,
- 32 Go de mémoire DDR5-5600 soudée à la carte en BGA.
- Bus 128 bits : bande passante de 89,6 Go/s.
- 40 Go de stockage eMMC.
- Inclut quelques accélérateurs tels que :
- Racine de confiance matérielle
- RegEx
- Cryptage IPsec/TLS des données en mouvement
- Chiffrement AES-XTS 256/512 bits des données au repos
- Accélération matérielle SHA 256 bits
- Accélérateur matériel de clé publique.
- Générateur de nombres aléatoires réels.
Il faut partir du fait que ce type de puce est utilisé pour crypter et décrypter une grande quantité d’informations à la volée, suffisamment pour que le traitement combiné de tous les processus vers la mémoire finisse par consommer tout le temps de traitement du CPU. Cependant, ce n’est pas le seul élément contenu dans cette étrange carte d’extension de serveur.
Spécifications du GPU
D’autre part, il ne faut pas oublier que dans l’AX800 le DPU n’est pas seul, et que nous avons avec lui un GPU NVIDIA A100, mais avec des spécifications quelque peu réduites.
- La vitesse d’horloge en base est de 840 MHz et en Boost de 1410 MHz, des chiffres plutôt bas, mais compréhensibles du fait que les deux puces et leurs mémoires partagent le même connecteur d’alimentation.
- Il est livré avec 80 Go de mémoire HBM2E, pour un total de 5 stacks et une bande passante de 2 TB/s entre la puce A100 et sa mémoire.
Il ne faut cependant pas oublier qu’il ne s’agit pas d’une carte graphique, mais que l’énorme puissance de calcul sert d’assistant au DPU pour contrôler les mouvements dans un serveur composé non pas de dizaines, mais de centaines, voire de milliers de racks différents. Cependant, l’utilisation de l’interface PCI Express par l’AX800 en fait un matériel étrange, surtout si l’on considère qu’il n’utilise pas PCI Express pour communiquer avec les autres composants, puisqu’il utilise son contrôleur Ethernet à 200 Gbps à cette fin.
Quoi qu’il en soit, ce n’est pas un matériel que l’on voit tous les jours, surtout dans un PC domestique.
