in

L'Ouek fonctionne localement sur PC, la fin de Chatgpt

L'Ouek fonctionne localement sur PC, la fin de Chatgpt

Nous sommes à une époque où l'IA est l'un des secteurs les plus importants de l'industrie technologique et, en fait, il s'est tellement étendu qu'il est venu pour imprégner d'autres secteurs et segments de marché. En fin de compte, l'intelligence artificielle nous permet de l'utiliser dans toutes sortes de situations, à la fois lors de la génération de textes, d'images, de vidéos ou de formation pour effectuer certaines tâches. Bien que nous nous ayons fait croire que les grands LLM nécessitent l'utilisation de milliers de graphiques et que nous devons être connectés à Internet à tout moment, la Chine a totalement changé ce concept avec l'IA Depeeek, qui non seulement offre des résultats similaires à Chatgpt , mais nous pouvons également l'exécuter localement sur notre PC sans être connecté à Internet.

OpenAI est considéré comme la société la plus importante du secteur de l'intelligence artificielle principalement pour être le créateur de Chatgpt. Bien qu'il y ait beaucoup plus d'options aujourd'hui, le chatppt est toujours choisi par la grande majorité des gens et est de loin le plus connu. Ce n'est pas que nous manquons que nous en mentions de tous les côtés, même s'il n'est pas considéré comme le meilleur dans tous les aspects, au moins en utilisant certains modèles GPT.

Deepseek peut être utilisé à partir de votre PC localement et sans avoir besoin de se connecter à Internet, contrairement à Openai AI

Tout comme nous pensons que Chatgpt n'aurait pas de rival ou que quiconque pourrait le surmonter, nous ne pensions pas non plus qu'une entreprise aussi grande que Microsoft ou même Google, avait la concurrence du pays que tant de sanctions américaines ont reçu, la Chine. Après plus d'un an qui souffre des restrictions d'achat de matériel imposées par les États-Unis, nous pouvons confirmer que le géant asiatique a pu réaliser un exploit en utilisant moins de matériel que les autres grandes entreprises.

Deepseek est devenu le “futur” des modèles d'IA, car ils ont réalisé quelque chose de comparable ou même mieux à chatter et à d'autres modèles en utilisant moins de cartes graphiques NVIDIA, étant plus efficaces et moins chers en coûts. En fait, le même Koduri Raja d'AMD est en faveur de l'utilisation de DePseek indiquant qu'il peut être utilisé sur un PC que nous avons à la maison avec notre propre GPU, car il n'est pas nécessaire d'être connecté à Internet et peut être exécuté d'une manière locale.

A lire également  Les GPU IA de NVIDIA sont en rupture de stock, TSMC n'en a pas assez

RTX 3090 sont la meilleure option de prix / performance pour Depseek si vous les obtenez bon marché

Deepseek R1 a été officiellement lancé il y a quelques jours et a déjà révolutionné Internet pour avoir offert de très bons résultats et la hauteur de la compétition américaine. La Chine a de nouveau surpris quand tout était contre et si vous avez un bon GPU et une bonne quantité de RAM, vous pouvez essayer le “Benchmark Olllama” qui montre la performance dans Deepseek R1. Dans Reddit, nous avons le message qui indique les résultats que certains utilisateurs ont obtenus, mais avant cela, le matériel que nous devons avoir est mentionné.

Dans le cas où nous voulons utiliser Depseek R1 14B, avec un GPU à mi-hauteur, ce sera suffisant, mais si nous optons pour 32B, nous aurons besoin d'un graphique avec plus de VRAM. Si nous passons au modèle 70b, nous parlons ici de l'utilisation de GPU avec 48 Go de VRM, bien que nous puissions voir que 2 sur 24 Go peuvent également être utilisés. Dans les résultats, nous pouvons voir le tableau des graphiques, des prix et des performances dans chacun de ces modèles. Avec 14B, le RTX 3090 est celui qui donne le mieux et offre le meilleur ratio pour un prix de 800 $. Dans la version 32b, le RTX 3090 continue de diriger car bien que 4090 soit plus rapide, il est considérablement plus cher. Enfin, en 70B, 2X RTX 3090 offrent les meilleures performances pour leur prix, atteignant presque un RTX 6000 ADA.

A lire également  Comment étendre le stockage de l'iPhone 17 Pro Max à 2 To