Olcsóbb Nvidia H100 alternatíva az Inteltől

2024. June 24. by Bíró Gábor

Az Intel új Gaudi 3 AI gyorsítója ígéretes költséghatékony alternatívát jelent az Nvidia H100-hoz képest. Az Intel a Gaudi 3-as processzorokból álló alaplapját jelentősen alacsonyabb áron kínálja, miközben a mesterséges intelligencia (AI) munkaterhelésekben jobb teljesítményt állít magáról, így komoly versenytársat állítva az Nvidia domináns pozíciójának.

Az Intel Gaudi 3 AI gyorsítója költséghatékony alternatívaként jelenik meg az Nvidia H100-hoz képest, az Intel nyolc Gaudi 3 processzort tartalmazó alaplapját 125 000 dolláros áron kínálva. Ez jelentős árcsökkentést jelent az Nvidia ajánlatához képest, miközben az Intel jobb teljesítményt ígér az AI munkaterhelések során, amint azt a TechRadar és az Ars Technica is jelentette.

A nyolc Gaudi 3 processzort tartalmazó alaplap ára 125 000 dollár, ami darabonként körülbelül 15 650 dollárt jelent nagy tételben vásárolva. Ez az árstratégia az Intel ajánlatát nagyjából fele olyan költségessé teszi, mint az Nvidia H100, amely körülbelül 30 000 dollárért kapható 80GB-os kártyánként. Az árkülönbség része az Intel stratégiájának, hogy versenybe szálljon az Nvidia által uralt AI gyorsító piacon, potenciálisan olcsóbb lehetőséget kínálva a nagy teljesítményű AI számítástechnikához.

Az inferencia sebesség az a mérték, amely megmutatja, hogy egy gépi tanulási modell milyen gyorsan képes válaszokat, eredményeket vagy előrejelzéseket adni, amikor új adatokkal találkozik. Ez különösen fontos a valós idejű alkalmazásoknál, mint például az önvezető autók, a valós idejű beszédfelismerés vagy a valós idejű fordítás, ahol a késleltetés (latency) minimalizálása kritikus.

A Gaudi 3 teljesítményével kapcsolatos állítások lenyűgözőek: az Intel szerint akár 50%-kal gyorsabb betanítási időket ér el olyan modelleknél, mint a Llama 7B, 13B és a GPT-3 175B az Nvidia H100-hoz képest. Az inference feladatokban az Intel 50%-os áteresztőképesség-növekedést és 40%-kal nagyobb energiahatékonyságot jelent különböző modellek, köztük a Llama 7B, 70B és a Falcon 180B esetében. A chip állítólag az Nvidia H200-nál is 30%-kal gyorsabb inferencia sebességet nyújt bizonyos modelleken. Fontos azonban megjegyezni, hogy ezek a benchmarkok az Intel által közöltek, és független megerősítést igényelnek.

Az Intel Gaudi 3 bevezetése várhatóan felforgatja az AI gyorsító piacot, kihívást jelentve az Nvidia dominanciájára. Olyan nagy technológiai cégek, mint a Dell, a Hewlett Packard Enterprise, a Lenovo és a Supermicro már elkötelezték magukat, hogy a Gaudi 3-at piacra dobják. Az Intel tervei között szerepel partnerek hálózatának bővítése hat további céggel: Asus, Foxconn, Gigabyte, Inventec, Quanta és Wistron. Ez a stratégiai lépés célja, hogy az Intel AI rendszerei szélesebb körben elérhetőek és versenyképesebbek legyenek. Azonban a Gaudi 3 vonzó ár-érték aránya ellenére az Intel nehéz feladattal néz szembe az Nvidia jól bejáratott ökoszisztémájával és márkahűségével szemben az AI szektorban.