英特尔Gaudi 3 AI加速器挑战英伟达H100,价格更具优势

Gábor Bíró 2024年6月24日
2 阅读时间

英特尔新款Gaudi 3 AI加速器是英伟达H100极具潜力且经济高效的替代方案。英特尔以更低的价格提供配备八个Gaudi 3处理器的基板,同时声称在人工智能 (AI) 工作负载方面具有更卓越的性能,使其成为英伟达主导市场地位的有力竞争者。

英特尔Gaudi 3 AI加速器挑战英伟达H100,价格更具优势
来源: Intel

英特尔的Gaudi 3 AI加速器作为英伟达H100的经济型替代品横空出世,英特尔将其包含八个Gaudi 3处理器的通用基板定价为12.5万美元。据TechRadar和Ars Technica报道,与英伟达的产品相比,这代表着大幅降价,同时英特尔承诺在AI工作负载方面提供更出色的性能。

配备八个Gaudi 3处理器的基板定价为12.5万美元,批量购买时,每个芯片的价格约为15650美元。这种定价策略使英特尔的产品价格约为英伟达H100的一半,后者每张80GB显卡售价约为3万美元。这种价格差异是英特尔为在英伟达主导的AI加速器市场中竞争而采取的策略的一部分,有可能为高性能AI计算提供更经济实惠的选择。

推理速度衡量的是机器学习模型在接收到新数据时生成响应、结果或预测的速度。这对于自动驾驶汽车、实时语音识别或实时翻译等实时应用尤为重要,在这些应用中,最大限度地减少延迟至关重要。

Gaudi 3的性能声明令人印象深刻:英特尔表示,与英伟达H100相比,在Llama 7B、13B和GPT-3 175B等模型上,Gaudi 3的训练时间最多可缩短50%。对于推理任务,英特尔报告称,在包括Llama 7B、70B和Falcon 180B在内的各种模型上,吞吐量提高了50%,能效提高了40%。据称,在某些模型上,该芯片的推理速度也比英伟达的H200快30%。然而,重要的是要注意,这些基准测试由英特尔提供,需要独立验证。

英特尔Gaudi 3的推出预计将颠覆AI加速器市场,挑战英伟达的统治地位。戴尔、惠普企业、联想和超微等主要科技公司已承诺将Gaudi 3系统推向市场。英特尔还计划扩大其合作伙伴网络,新增华硕、富士康、技嘉、英业达、广达和纬创六家公司。这项战略举措旨在使英特尔的AI系统更广泛地普及并更具竞争力。尽管Gaudi 3具有极具吸引力的性价比,但英特尔仍面临着与英伟达完善的生态系统(如CUDA)以及AI领域的品牌忠诚度作斗争的艰苦战斗。

Gábor Bíró 2024年6月24日