Intel Desafía a Nvidia H100 con el Acelerador de IA Gaudi 3 de Menor Precio
El nuevo acelerador de IA Gaudi 3 de Intel se presenta como una alternativa rentable y prometedora al H100 de Nvidia. Intel ofrece su placa base con ocho procesadores Gaudi 3 a un precio significativamente inferior, a la vez que afirma un rendimiento superior en cargas de trabajo de inteligencia artificial (IA), posicionándose como un competidor serio frente al dominio de Nvidia en el mercado.
El acelerador de IA Gaudi 3 de Intel emerge como una alternativa económica al Nvidia H100. Intel ha fijado el precio de su placa base universal, que contiene ocho procesadores Gaudi 3, en 125.000 dólares. Esto representa una reducción de precio considerable en comparación con la oferta de Nvidia, mientras que Intel promete un mejor rendimiento para cargas de trabajo de IA, según informan TechRadar y Ars Technica.
La placa base con ocho procesadores Gaudi 3 tiene un precio de 125.000 dólares, lo que se traduce en aproximadamente 15.650 dólares por chip si se compra al por mayor. Esta estrategia de precios hace que la oferta de Intel sea aproximadamente la mitad de cara que el H100 de Nvidia, que se vende por unos 30.000 dólares por tarjeta de 80 GB. Esta diferencia de precio forma parte de la estrategia de Intel para competir en el mercado de aceleradores de IA dominado por Nvidia, ofreciendo potencialmente una opción más asequible para la computación de IA de alto rendimiento.
La velocidad de inferencia es la medida de la rapidez con la que un modelo de aprendizaje automático puede producir respuestas, resultados o predicciones cuando se le presentan nuevos datos. Esto es particularmente importante para aplicaciones en tiempo real como coches autónomos, reconocimiento de voz en tiempo real o traducción en tiempo real, donde minimizar la latencia es crítico.
Las afirmaciones de rendimiento para Gaudi 3 son impresionantes: Intel declara que alcanza tiempos de entrenamiento hasta un 50% más rápidos en modelos como Llama 7B, 13B y GPT-3 175B en comparación con el Nvidia H100. Para tareas de inferencia, Intel informa de un aumento del 50% en el rendimiento y un 40% más de eficiencia energética en varios modelos, incluyendo Llama 7B, 70B y Falcon 180B. También se afirma que el chip ofrece velocidades de inferencia un 30% más rápidas que el H200 de Nvidia en ciertos modelos. Sin embargo, es importante tener en cuenta que estos benchmarks son proporcionados por Intel y requieren una verificación independiente.
Se espera que la introducción de Gaudi 3 por parte de Intel irrumpa en el mercado de aceleradores de IA, desafiando el dominio de Nvidia. Grandes empresas tecnológicas como Dell, Hewlett Packard Enterprise, Lenovo y Supermicro ya se han comprometido a llevar al mercado sistemas Gaudi 3. Intel también planea ampliar su red de socios con seis empresas adicionales: Asus, Foxconn, Gigabyte, Inventec, Quanta y Wistron. Este movimiento estratégico tiene como objetivo hacer que los sistemas de IA de Intel estén más disponibles y sean más competitivos. A pesar de la atractiva propuesta de precio-rendimiento de Gaudi 3, Intel se enfrenta a una dura batalla contra el ecosistema bien establecido de Nvidia (como CUDA) y la lealtad a la marca dentro del sector de la IA.