Nolan Mariotte
Depuis l'arrivée de l'IA sur les ordinateurs portables, nous sommes passés par plusieurs phases, la plus frappante a peut-être été de concentrer la conversation sur « voir qui passe le plus de temps » sur les NPU, puis de quantifier les performances via les jetons par seconde (tk/s) et les TOPS. Maintenant, cela seul n'est plus valable, puisque les CPU et les GPU sont ajoutés à l'équation, de sorte que nous avons trois valeurs distinctes et une ensemble pour chaque processeur. Étant donné qu'AMD a Strix Point sur le marché et Intel Lunar Lake, même s'ils ne sont pas tout à fait équivalents en raison du segment auquel ils s'adressent, les rouges ont opposé leur Ryzen AI 9 HX 375 à l'Intel Core Ultra 7 258V dans LM Studio, et les résultats sont intéressants.
LM Studio est basé sur Llama.cpp, un projet visant à implémenter des modèles de langage conviviaux, simplifiant ainsi la tâche de tous ceux qui souhaitent se lancer rapidement et facilement dans le secteur des logiciels d'IA. Pour cette raison, AMD l'a choisi, montrant en partie les différences entre son matériel et celui de son concurrent.
AMD n'a pas utilisé le Core Ultra 9 288V et l'Intel AI Playground pour les raisons suivantes
La vérité est que la comparaison est un peu biaisée, mais il y a une raison. AMD n'a pas choisi l'Intel Core Ultra 9 288V, qui partage curieusement quasiment le même TDP que le HX 375 (28W contre 30W). Sachant que le 288V a 300 MHz de plus en CPU, 100 MHz de plus en GPU et 1 TOPS de plus en NPU, il aurait été bien plus intéressant de lancer la comparaison avec ce CPU et non avec le 258V, qui, bien que très performant , n'est pas l'exposant maximum auquel AMD doit faire face.
Si cela a été fait, c'est parce que le 288V n'est pas disponible pour le moment, et puisque les Reds ont choisi des ordinateurs portables de 14 pouces, il est possible qu'il ne finisse pas par arriver sur le marché dans ce segment, car il est davantage conçu pour des performances plus élevées. -ordinateurs portables finaux et plus de taille.
En plus de cela, et pour terminer la section, nous avons détecté qu'AMD n'utilise pas Intel AI Playground dans certains tests, alors qu'il le fait dans d'autres. Il se peut que ce ne soit pas intéressant, ou que ce ne soit pas pertinent, ou qu'ils aient simplement voulu montrer les performances sans cette partie optimisée exclusivement pour Intel. Autre détail à savoir, l'option Intel utilisait des mémoires à 8 533 MT/s, alors qu'AMD utilisait 7 500 MT/s, ce qui donne un petit avantage aux bleus.
Quoi qu'il en soit, partons des données.
AMD Ryzen AI 9 HX 375 vs Intel Core Ultra 7 258V dans LM Studio, l'option rouge est-elle plus rapide ?
Qu'on le veuille ou non, qu'il s'agisse d'une comparaison meilleure ou pire, les données sont sur la table. La diapositive STX98 précédant ce paragraphe montre comment AMD est jusqu'à 27 % plus rapide en jetons par seconde dans Llama.cpp, où il reste toujours en avance sur Intel.
La deuxième partie de cette diapositive montre le temps nécessaire pour générer le premier jeton, c'est-à-dire le temps nécessaire pour générer le premier jeton pour chaque processeur, en particulier dans la section CPU.
AMD affirme qu'il est jusqu'à 3,5 fois plus rapide qu'Intel avec son Ryzen AI 9 HX 375 sous LM Studio par rapport à l'Intel Core Ultra 7 258V.
Lors de l'utilisation de l'iGPU avec VGM (Variable Graphics Memory, fixée d'ailleurs à 16 Go selon AMD), nous voyons qu'il n'y a pas non plus d'instruction où l'option rouge perd face à celle d'Intel dans ce Llama.cpp basé sur Vulkan. Il faut préciser qu'Intel n'a pas de VGM dans le test en tant que tel.
Le test suivant est encore meilleur, puisqu'il teste l'accélération de l'iGPU en utilisant, dans le cas des bleus, Intel AI Playground pour cela, c'est-à-dire qu'ils utilisent la version la plus optimisée avec Mistral 7b. Néanmoins, AMD affirme que le Ryzen AI 9 HX 375 est jusqu'à 13,1 % meilleur que le Core Ultra 7 258V d'Intel.
Il est vrai que le secteur de l'IA ouvre de nouvelles portes à tout le monde et qu'il est à la mode, mais le nombre d'utilisateurs qui l'utilisent, même avec Llama.cpp, est vraiment faible.
Mais cela n'empêche pas AMD de sortir le torse et de battre Intel avec des marges très larges dans ce domaine, même en utilisant le meilleur d'Intel contre l'option haut de gamme d'Intel.
Nous ne pensions pas non plus que le 288V allait trop changer les choses, car la marge est grande, aucune excuse si les données sont celles qui montrent les rouges. Par conséquent, Intel doit également pousser l'IA, une autre tâche en attente à ajouter après les coups qu'AMD lui donne actuellement dans tous les domaines.
