Nolan Mariotte
L’AMD Instinct MI300X est sans aucun doute la carte graphique la plus complexe à ce jour, à tel point qu’ils ont dû la diviser en plusieurs puces, et ce n’est pas étonnant, car nous avons affaire à un GPU avec 440 Compute Units, ce qui est énorme. Cependant, elle a un coût énergétique important, 750 W, ce qui est la principale raison pour laquelle vous ne pourrez pas l’installer dans votre PC, mais ce n’est pas la seule.
Si vous espériez installer l’AMD Instinct MI300X dans votre PC pour jouer à des jeux vidéo, oubliez-le, pour la simple raison que l’AMD Instinct MI300X ne peut pas être installé dans votre PC. Oubliez-le, pour la simple raison qu’il n’est pas capable de jouer à des jeux graphiques. La raison en est qu’il lui manque certaines unités essentielles au rendu des graphiques 3D en temps réel. La puissance brute est donc utilisée pour accélérer les algorithmes scientifiques de calcul parallèle tels que ceux qui bénéficient de la puissance de calcul et de l’architecture des GPU. De plus, il ne faut pas oublier que le coût d’un circuit intégré de ce type de complexité serait irréalisable en termes de prix pour être placé dans un PC.
Pourquoi ne pouvez-vous pas installer l’AMD Instinct MI300X dans votre PC ?
La première est qu’il ne s’agit pas d’une carte d’extension PC typique, qui est généralement connectée au port PCI Express. Elle est plutôt conçue pour utiliser le standard des serveurs Open compute Accelerator Module ou OAM. Cela lui permet de fournir une puissance de 750 W à un tel monstre. La consommation d’énergie est la deuxième raison pour laquelle il ne peut pas être utilisé dans un PC conventionnel, y compris les stations de travail.
En effet, le nouveau connecteur d’alimentation à 16 broches, le 12VHPWR, délivre de loin 600 watts, auxquels il faut ajouter 75 watts provenant de la base PCI Express elle-même sans alimentation externe. Cependant, pour ceux qui sont intéressés par une version PCI Express, nous savons qu’AMD l’a mentionné lors de la présentation. Des rumeurs font état d’un MI300C de base, avec deux fois moins de disques et seulement 64 Go de HBM3. C’est pour le moins étrange, mais pas impossible, étant donné que l’un de ses avantages est qu’il peut faire tourner de grands modèles grâce à ses 192 Go de mémoire.
Cela ne veut pas dire qu’AMD ne prépare pas une version PCI Express de son Instinct MI300X, et bien qu’il ne s’agisse pour l’instant que d’une possibilité lointaine, qui n’a pas été confirmée, les chances sont là. N’oublions pas qu’AMD n’a pas encore implémenté une seule de ses cartes utilisant le nouveau connecteur à 16 broches, et cela pourrait être l’occasion parfaite pour la marque de le faire. Cependant, nous pensons qu’il s’agit plus probablement d’une réponse à la 4090 Ti, qui ne consomme que 450W, ou à la version PCI Express de la H100, toutes deux de NVIDIA.
Le refroidissement, un autre point clé
Le refroidissement d’une puissance de 750 watts nécessite des systèmes de refroidissement complexes, volumineux et coûteux, pour ne pas dire plus. Il suffit de voir l’énorme dissipateur thermique situé sur le dessus de chaque unité pour comprendre que l’installation de l’AMD Instinct MI300X dans un PC conventionnel est hors de question. Aucun refroidissement liquide ne semble avoir été utilisé, mais il ne serait pas surprenant que certains clients potentiels optent pour une telle solution face à une consommation d’énergie aussi exagérée, mais cela dépendra des coûts de maintenance et de la rentabilité.
En tout état de cause, il ne s’agit pas d’un produit destiné à un ordinateur classique ou même à une station de travail. C’est pourquoi nous supposons que la version PCI Express n’aura pas de niveau de consommation d’énergie, car la mise en place d’un dissipateur thermique d’une telle taille dépasse les limites acceptables pour toute carte mère et tout boîtier de PC. C’est pourquoi nous spéculons sur un modèle moins rapide avec une consommation d’énergie de 450 watts.
La stratégie d’AMD en matière d’IA est claire : être moins cher.
L’une des plaintes les plus courantes parmi les professionnels de l’intelligence artificielle est le peu de mémoire dont ils disposent actuellement. Souvent, le nombre de GPU requis pour l’inférence est dicté par le besoin d’une puissance particulière, si ce n’est par les limitations de mémoire. Le pari d’AMD est donc d’offrir des solutions moins coûteuses comme alternative au quasi-monopole de fait de NVIDIA dans le domaine de l’IA.
Jusqu’à présent, AMD s’est déjà assuré le soutien de Hugging Face, dont le modèle de type ChatGPT peut fonctionner sur un seul point AMD Instinct MI300X, ce qui en fait la solution idéale pour les petites entreprises qui souhaitent utiliser ce type de technologie, mais qui ne peuvent pas se permettre une grande infrastructure. Sans parler de l’accord probable avec Amazon. Après tout, la stratégie d’AMD repose sur l’offre de matériel tout aussi performant en matière d’IA, mais à un coût apparemment moindre, dans le but de gagner des parts de marché.
