Nolan Mariotte
Dans une interview avec CNBC, le PDG d’Intel, Pat Gelsinger, a été interrogé sur plusieurs faits spécifiques, et ses déclarations sont sans aucun doute surprenantes, ou du moins intéressantes. Et le magnat des puces qui dirige l’équipe bleue affirme qu’actuellement, les GPU Intel pour l’IA sont compétitifs par rapport à NVIDIA. De plus, il a qualifié son nœud Intel 20A de « Picasso ».
La succession d’événements qui se déroulent entre la Chine, les États-Unis et NVIDIA a mis en lumière quelque chose d’intéressant dont on ne parle pas du tout, et c’est Intel. En remontant un peu en arrière et en analysant les déclarations de Gelsinger, le 19 septembre de cette année, soit il y a un peu plus d’un mois, la plateforme Gaudi2 et ses GPU ont fait leur apparition, ce qui soulève plusieurs questions à son sujet.
Intel est-il vraiment compétitif par rapport à NVIDIA dans les GPU pour l’IA ?
Les résultats montrés par Intel étaient vraiment bons pour Gaudi2 et les déclarations de Gelsinger vont tout à fait dans le même sens. Pour être plus précis, Intel a déclaré que cette plate-forme d’IA est l’alternative prix/performances au NVIDIA H100, et qu’elle est extrêmement attractive pour cette raison.
Ces résultats étaient les suivants :
- Gaudi2 a réalisé un temps d’entraînement impressionnant sur GPT-3 : 311 minutes avec 384 accélérateurs.
- Mise à l’échelle presque linéaire à 95 % de 256 à 384 accélérateurs dans le modèle GPT-3.
- Excellents résultats de formation en vision par ordinateur (accélérateurs ResNet-50 8 et accélérateurs Unet3D 8) et modèles de traitement du langage naturel (accélérateurs BERT 8 et 64).
- Des performances en hausse de 10% et 4% respectivement pour les modèles BERT et ResNet par rapport à la présentation de novembre, preuve de la maturité croissante du logiciel Gaudi2.
- Les résultats de Gaudi2 ont été livrés « prêts à l’emploi », ce qui signifie que les clients peuvent obtenir des résultats de performances comparables en déployant Gaudi2 sur site ou dans le cloud.
Les résultats ne sont malheureusement pas comparables à ceux de NVIDIA, car les mêmes configurations ne sont pas proposées en tant que telles. Mais supposons qu’en effet, les performances sont très similaires et le prix est inférieur, alors pourquoi tout le monde continue-t-il à opter pour NVIDIA ? Eh bien, parce que le problème d’Intel en matière d’IA n’est pas le matériel en tant que tel, ce n’est pas le prix, le problème est la maturité du logiciel et de l’écosystème qui l’entoure, qui doit rivaliser avec rien de moins que CUDA.
Le problème logiciel OneAPI et comment il est résolu par le matériel
En réalité, ce qu’Intel vit est une véritable décompensation. Lorsqu’elle parle de la maturité du logiciel Gaudi2, l’entreprise jette les choses en clair en déclarant ce qui suit :
Le support logiciel pour la plateforme Gaudi continue de mûrir et suit le rythme du nombre croissant d’IA génératives et de LLM très demandés.
- La présentation GPT-3 de Gaudi2 était basée sur PyTorch et utilisait la populaire bibliothèque d’optimisation DeepSpeed (qui fait partie de Microsoft AI at Scale), plutôt qu’un logiciel personnalisé. DeepSpeed permet la prise en charge simultanée du parallélisme 3D (Données, Tenseur, Pipeline), optimisant davantage l’efficacité de la mise à l’échelle des performances dans LLM.
- Les résultats de Gaudi2 sur le benchmark 3.0 ont été envoyés dans le type de données BF16. Une augmentation significative des performances de Gaudi2 est attendue lorsque la prise en charge logicielle du FP8 et les nouvelles fonctionnalités seront publiées au troisième trimestre 2023.
Pourquoi tout cela est-il important ? Car Intel a largement dévoilé ses projets dans l’interview accordée à CNBC. Il a déclaré que Gaudi3 arrivera l’année prochaine, probablement début 2024, que Falcon Shores, qui est devenu un pur GPU HPC et AI, le fera d’ici 2025 et en plus, nous savons maintenant que Falcon Shores 2 arrivera dans un an. plus tard, début 2026.
Élimination surprise du produit et avenir incertain
Rappelons-le, car les changements de Falcon Shores du XPU au GPU (adieu le CPU dessus) ne sont que la pointe de l’iceberg. Le Pont du Rialto, successeur du Ponte Vecchio, a dit au revoir, le Lancaster Sound encore pareil et les FPGA… Ils s’en sont débarrassés. Par conséquent, Falcon Shores 2 est le revers de la médaille Gaudi3.
Autrement dit, Falcon Shores 2 est devenu la main gauche d’Intel, la main droite étant Gaudi3 pour l’IA, et les deux convergent vers le même problème : OneAPI comme logiciel général. Pour cette raison, Gelsinger a déclaré ce qui suit le mois dernier :
« Nous allons simplement étendre la flexibilité de cette pile logicielle. Nous ajoutons PM8. Nous venons d’ajouter la prise en charge de PyTorch 2. À chaque étape, vous obtenez des cas d’utilisation meilleurs et plus larges. D’autres modèles de langage sont pris en charge. La pile logicielle prend en charge une plus grande programmabilité.
Mais à chaque étape, cela s’améliore. Chaque version du logiciel s’améliore. “Chaque version matérielle s’améliore au fur et à mesure pour couvrir une plus grande part du marché global des accélérateurs.”
Compte tenu de la poussée de l’IA dans les secteurs des PC et des ordinateurs portables, nous constatons désormais que le plus gros problème d’Intel est le logiciel, et non le matériel. Les retards excluent Intel de rivaliser avec NVIDIA en raison de l’écosystème logiciel dont il dispose et qui, quelle que soit la qualité du matériel dont vous disposez, ne vous permet pas de rivaliser, ou d’être compétitif, contre votre grand rival, et donc, la grande majorité des les entreprises et les pays choisissent NVIDIA.
Intel pourra-t-il renverser la situation avec Falcon Shores 2 en 2026 en HPC et Gaudi 3 d’ici 2025 ? Eh bien, tout dépend de la façon dont OneAPI évolue. Le matériel, dans ce cas, passe au second plan, tandis que NVIDIA ne cesse de l’améliorer à pas de géant.
