Intel бросает вызов Nvidia H100 с более дешевым AI-ускорителем Gaudi 3
Новый AI-ускоритель Intel Gaudi 3 представляет собой многообещающую и экономичную альтернативу Nvidia H100. Intel предлагает свою базовую плату с восемью процессорами Gaudi 3 по значительно более низкой цене, заявляя о превосходной производительности в задачах искусственного интеллекта (AI), что позиционирует его как серьезного конкурента доминирующему положению Nvidia на рынке.
AI-ускоритель Intel Gaudi 3 позиционируется как бюджетная альтернатива Nvidia H100, при этом Intel установила цену в 125 000 долларов за универсальную базовую плату, включающую восемь процессоров Gaudi 3. Это представляет собой значительное снижение цены по сравнению с предложением Nvidia, при этом Intel обещает лучшую производительность в задачах AI, как сообщают TechRadar и Ars Technica.
Базовая плата с восемью процессорами Gaudi 3 стоит 125 000 долларов, что составляет приблизительно 15 650 долларов за чип при оптовой покупке. Такая ценовая стратегия делает предложение Intel примерно вдвое дешевле, чем Nvidia H100, которая продается примерно за 30 000 долларов за карту 80GB. Эта разница в цене является частью стратегии Intel по конкуренции на рынке AI-ускорителей, где доминирует Nvidia, потенциально предлагая более доступный вариант для высокопроизводительных AI-вычислений.
Скорость инференса – это показатель того, как быстро модель машинного обучения может выдавать ответы, результаты или прогнозы при получении новых данных. Это особенно важно для приложений реального времени, таких как самоуправляемые автомобили, распознавание речи в реальном времени или перевод в реальном времени, где минимизация задержки имеет решающее значение.
Заявленная производительность Gaudi 3 впечатляет: Intel утверждает, что он обеспечивает до 50% более быстрое обучение на моделях, таких как Llama 7B, 13B и GPT-3 175B, по сравнению с Nvidia H100. Для задач инференса Intel сообщает об увеличении пропускной способности на 50% и повышении энергоэффективности на 40% для различных моделей, включая Llama 7B, 70B и Falcon 180B. Также утверждается, что чип обеспечивает на 30% более высокую скорость инференса, чем Nvidia H200 на определенных моделях. Однако важно отметить, что эти бенчмарки предоставлены Intel и требуют независимой проверки.
Ожидается, что выпуск Intel Gaudi 3 произведет революцию на рынке AI-ускорителей, бросив вызов доминированию Nvidia. Крупные технологические компании, такие как Dell, Hewlett Packard Enterprise, Lenovo и Supermicro, уже заявили о намерении вывести на рынок системы Gaudi 3. Intel также планирует расширить свою партнерскую сеть еще шестью компаниями: Asus, Foxconn, Gigabyte, Inventec, Quanta и Wistron. Этот стратегический шаг направлен на то, чтобы сделать AI-системы Intel более доступными и конкурентоспособными. Несмотря на привлекательное соотношение цены и производительности Gaudi 3, Intel сталкивается с трудной борьбой против устоявшейся экосистемы Nvidia (например, CUDA) и лояльности к бренду в секторе AI.