Intel défie Nvidia H100 avec l'accélérateur IA Gaudi 3, moins cher

Gábor Bíró 24 juin 2024
2 min de lecture

Le nouvel accélérateur IA Gaudi 3 d'Intel se présente comme une alternative économique prometteuse au H100 de Nvidia. Intel propose sa carte mère équipée de huit processeurs Gaudi 3 à un prix nettement inférieur, tout en revendiquant des performances supérieures dans les charges de travail d'intelligence artificielle (IA), se positionnant ainsi comme un concurrent sérieux face à la position dominante de Nvidia sur le marché.

Intel défie Nvidia H100 avec l'accélérateur IA Gaudi 3, moins cher
Source: Intel

L'accélérateur IA Gaudi 3 d'Intel se présente comme une alternative économique au Nvidia H100. Intel a fixé le prix de sa carte mère universelle contenant huit processeurs Gaudi 3 à 125 000 dollars. Cela représente une réduction de prix substantielle par rapport à l'offre de Nvidia, tandis qu'Intel promet de meilleures performances pour les charges de travail d'IA, comme le rapportent TechRadar et Ars Technica.

La carte mère avec huit processeurs Gaudi 3 est au prix de 125 000 dollars, ce qui se traduit par environ 15 650 dollars par puce en cas d'achat en gros. Cette stratégie de prix rend l'offre d'Intel environ deux fois moins chère que le H100 de Nvidia, qui se vend environ 30 000 dollars par carte de 80 Go. Cette différence de prix fait partie de la stratégie d'Intel pour concurrencer sur le marché des accélérateurs d'IA dominé par Nvidia, offrant potentiellement une option plus abordable pour le calcul d'IA haute performance.

La vitesse d'inférence est la mesure de la rapidité avec laquelle un modèle d'apprentissage automatique peut produire des réponses, des résultats ou des prédictions lorsqu'il est confronté à de nouvelles données. Ceci est particulièrement important pour les applications en temps réel telles que les voitures autonomes, la reconnaissance vocale en temps réel ou la traduction en temps réel, où la minimisation de la latence est essentielle.

Les affirmations de performance pour Gaudi 3 sont impressionnantes : Intel déclare qu'il atteint des temps d'entraînement jusqu'à 50 % plus rapides sur des modèles comme Llama 7B, 13B et GPT-3 175B par rapport au Nvidia H100. Pour les tâches d'inférence, Intel rapporte une augmentation de 50 % du débit et une efficacité énergétique supérieure de 40 % sur divers modèles, notamment Llama 7B, 70B et Falcon 180B. La puce offrirait également des vitesses d'inférence 30 % plus rapides que le H200 de Nvidia sur certains modèles. Cependant, il est important de noter que ces benchmarks sont fournis par Intel et nécessitent une vérification indépendante.

L'introduction de Gaudi 3 par Intel devrait perturber le marché des accélérateurs d'IA, défiant la domination de Nvidia. De grandes entreprises technologiques comme Dell, Hewlett Packard Enterprise, Lenovo et Supermicro se sont déjà engagées à commercialiser des systèmes Gaudi 3. Intel prévoit également d'étendre son réseau de partenaires avec six entreprises supplémentaires : Asus, Foxconn, Gigabyte, Inventec, Quanta et Wistron. Cette démarche stratégique vise à rendre les systèmes d'IA d'Intel plus largement disponibles et compétitifs. Malgré la proposition prix-performance attractive de Gaudi 3, Intel est confronté à une bataille difficile contre l'écosystème bien établi de Nvidia (comme CUDA) et la fidélité à la marque au sein du secteur de l'IA.

Gábor Bíró 24 juin 2024