in

Intel répond aux données présentées par AMD avec l'EPYC Turin

Intel répond aux données présentées par AMD avec l'EPYC Turin

Intel est assez mécontent de la présentation d'AMD au COMPUTEX 2024, car les EPYC Turin présentés dans les diapositives étaient extrêmement rapides par rapport au Xeon de 5e génération, à des limites vraiment incroyables. Aujourd'hui, Intel répond à AMD en déclarant que ces résultats ne reflètent pas les performances réalisables avec ses processeurs et que, par conséquent, les EPYC Turin ont été mis hors échelle. Pour le prouver, il propose des données concrètes, où les processeurs Xeon de 5e génération actuels basés sur Emerald Rapids surpassent les nouvelles options AMD.

Dans le but de montrer la vérité sur ce que les entreprises peuvent obtenir avec leur matériel, Intel a mis en scène plusieurs données clés qui réfutent ce qu'AMD a montré et les laisse dans une mauvaise position. Le prétexte des extensions AMX pour l'inférence et la formation a apporté des performances incroyables à l'IA, c'est pourquoi dans la présentation d'AMD, les données qui ont mis à mal les processeurs Xeon semblaient trop grandiloquentes, et nous comprenons maintenant pourquoi.

Le logiciel comme indicateur pour optimiser le matériel de votre serveur

Ce que prétendent les bleus, c'est fondamentalement qu'AMD n'a pas utilisé la pile logicielle d'Intel dans les tests, ce qui a laissé le Xeon dans une situation très clairement désavantageuse par rapport au nouvel EPYC Turin. En fait, dans l'article publié par chipzilla, ils mettent précisément l'accent sur l'engagement qu'ils ont pour ouvrir les logiciels et les nombreuses optimisations qu'ils apportent à leurs processeurs avec ces trois arguments :

  • Optimisations ascendantes sur les frameworks d'apprentissage en profondeur et disponibles dans les distributions par défaut de PyTorch, TensorFlow, DeepSpeed ​​​​et d'autres bibliothèques d'IA.

  • Diriger le développement et l'optimisation du backend CPU torch.compile, qui est une fonctionnalité phare de PyTorch 2.0.

  • Offre une extension Intel pour PyTorch avec des optimisations avancées de PyTorch avant leur portage sur la distribution officielle. Les optimisations LLM d'Intel sont accessibles au public dans les logiciels open source.

C'est important du point de vue des bleus lorsqu'ils disent que l'optimisation de ce logiciel pour les processeurs Intel en termes d'inférence LLM leur permet d'obtenir une réduction de la latence de 5x, et bien sûr, cela augmente les performances au-delà de ce qu'AMD a montré.

A lire également  Framework vend désormais des SSD M.2 de 2 To compatibles avec le Steam Deck

Intel répond à AMD et à son EPYC Turin avec des données qui brisent l'argument des rouges

Intel est très clair et attaque AMD de front avec un discours direct, puis des données qui renforcent cet argument :

Au COMPUTEX 2024, AMD a présenté des tests de référence de son processeur Turin 128C par rapport aux processeurs Intel Xeon de 5e génération, mais les résultats ne reflètent pas les performances réalisables sur les processeurs Intel Xeon avec un logiciel open source optimisé.

AMD n'a pas révélé la pile logicielle utilisée pour l'analyse comparative. Avec des logiciels accessibles au public, les processeurs Intel Xeon de 5e génération surpassent les futurs processeurs AMD.

En d'autres termes, les processeurs qu'Intel propose actuellement en vente seraient plus rapides que les meilleurs d'AMD et avec la moitié des cœurs. Mais pour le vérifier, les Bleus ont fourni les données suivantes :

Intel-Xeon-5-Gen-vs-AMD-EPYC-Turin-en-Llama2-7B-y-INT4Intel-Xeon-5-Gen-vs-AMD-EPYC-Turin-en-Llama2-7B-y-INT4

Avec l'extension PyTorch et une contrainte de latence P99, sur le même matériel, Intel obtient une augmentation des performances de pas moins de 5,4 fois, atteignant 686 jetons par seconde contre 671 pour les deux processeurs Turin à 128 cœurs. C'est très intéressant, puisque les Xeon 8592+ ont la moitié du nombre de cœurs disponibles, tandis que la 6ème génération en développe beaucoup plus.

Plus précisément, Intel déclare que l'amélioration sera 2,3 fois de la 6ème génération à la 5ème génération, où le nombre de canaux RAM est une nette amélioration qui améliore les performances en passant de 8 canaux à 12, en plus, avec le support des DIMM DDR5 et MCR. .

A lire également  Xiaomi 14 Ultra : spécifications, lancement et prix

En INT8 et en inférence, ils n'ont pas non plus de rival

Intel-Xeon-8480+-et-8592+-vs-EPYC-9654-et-9754-in-Deep-Learning-INT8-e-inferenceIntel-Xeon-8480+-et-8592+-vs-EPYC-9654-et-9754-in-Deep-Learning-INT8-e-inference

Dans le cadre du Deep Learning et en dehors de l'IA en tant que telle, Intel a également montré des données avec INT8 en inférence par rapport à l'EPYC 9654, où son frère aîné EPYC 9754 est également invité à faire une comparaison entre Gênes et Bergame.

Non seulement les processeurs Intel sont plus rapides, mais ceux de 4e génération surpassent également les deux architectures AMD. Il est vrai qu'il s'agit d'un cas spécifique avec une précision spécifique, mais il n'est pas moins vrai que depuis la quatrième génération, Intel a fait un pas de géant par rapport à AMD, qui grignotait des parts de marché à pas de géant, comme nous l'avons vu. récemment, où les gens de Lisa Su se vantaient de détenir déjà 30 % du marché.

Il est possible que Granite Rapids et surtout Sierra Forest arrêtent le coup et le rendent même à AMD, car non seulement ils ont de meilleurs extensions et logiciels que les rouges, mais ils ont également égalé le nombre de cœurs de Zen 5, et les ont surpassés avec Zen 5c, quelque chose que les centres de données et les entreprises d'IA apprécient également. Sans aucun doute, les couteaux volent entre les deux sociétés, mais Intel ne s'arrête pas là et affirme qu'ils afficheront beaucoup plus de données au troisième trimestre de cette année.