Intel Gaudi 3: Günstigerer KI-Beschleuniger fordert Nvidia H100 heraus
Intels neuer KI-Beschleuniger Gaudi 3 stellt eine vielversprechende und kostengünstige Alternative zu Nvidias H100 dar. Intel bietet sein Baseboard mit acht Gaudi 3 Prozessoren zu einem deutlich niedrigeren Preis an und behauptet gleichzeitig eine überlegene Leistung bei KI-Workloads. Damit positioniert sich Intel als ernstzunehmender Konkurrent zu Nvidias dominanter Marktstellung.
Intels KI-Beschleuniger Gaudi 3 positioniert sich als budgetfreundliche Alternative zum Nvidia H100. Intel hat den Preis für sein universelles Baseboard mit acht Gaudi 3 Prozessoren auf 125.000 US-Dollar festgelegt. Dies stellt eine erhebliche Preissenkung im Vergleich zu Nvidias Angebot dar, während Intel gleichzeitig eine bessere Leistung bei KI-Workloads verspricht, wie TechRadar und Ars Technica berichten.
Das Baseboard mit acht Gaudi 3 Prozessoren kostet 125.000 US-Dollar, was bei einer Großbestellung etwa 15.650 US-Dollar pro Chip entspricht. Diese Preisstrategie macht Intels Angebot etwa halb so teuer wie Nvidias H100, der für rund 30.000 US-Dollar pro 80-GB-Karte verkauft wird. Dieser Preisunterschied ist Teil von Intels Strategie, im von Nvidia dominierten Markt für KI-Beschleuniger zu konkurrieren und potenziell eine erschwinglichere Option für High-Performance-KI-Computing anzubieten.
Inferenzgeschwindigkeit ist das Maß dafür, wie schnell ein Modell für maschinelles Lernen Antworten, Ergebnisse oder Vorhersagen liefern kann, wenn es mit neuen Daten konfrontiert wird. Dies ist besonders wichtig für Echtzeitanwendungen wie selbstfahrende Autos, Echtzeit-Spracherkennung oder Echtzeit-Übersetzung, bei denen die Minimierung der Latenz entscheidend ist.
Die Leistungsangaben für Gaudi 3 sind beeindruckend: Intel gibt an, dass er im Vergleich zum Nvidia H100 bis zu 50 % schnellere Trainingszeiten bei Modellen wie Llama 7B, 13B und GPT-3 175B erreicht. Für Inferenzaufgaben berichtet Intel von einer 50%igen Steigerung des Durchsatzes und einer 40%igen Steigerung der Energieeffizienz bei verschiedenen Modellen, darunter Llama 7B, 70B und Falcon 180B. Der Chip soll auch 30 % schnellere Inferenzgeschwindigkeiten als Nvidias H200 bei bestimmten Modellen bieten. Es ist jedoch wichtig zu beachten, dass diese Benchmarks von Intel stammen und eine unabhängige Überprüfung erfordern.
Intels Einführung von Gaudi 3 wird voraussichtlich den Markt für KI-Beschleuniger aufmischen und Nvidias Dominanz herausfordern. Große Technologieunternehmen wie Dell, Hewlett Packard Enterprise, Lenovo und Supermicro haben sich bereits verpflichtet, Gaudi 3-Systeme auf den Markt zu bringen. Intel plant außerdem, sein Partnernetzwerk um sechs weitere Unternehmen zu erweitern: Asus, Foxconn, Gigabyte, Inventec, Quanta und Wistron. Dieser strategische Schritt zielt darauf ab, Intels KI-Systeme breiter verfügbar und wettbewerbsfähiger zu machen. Trotz des attraktiven Preis-Leistungs-Verhältnisses von Gaudi 3 steht Intel vor einem schwierigen Kampf gegen Nvidias etabliertes Ökosystem (wie CUDA) und die Markentreue im KI-Sektor.