xAI d'Elon Musk construit un supercalculateur "Gigafactory of Compute" pour l'IA Grok

Gábor Bíró • 5 mai 2024

2 min de lecture

xAI, la startup d'IA d'Elon Musk, construit un supercalculateur massif, surnommé la "Gigafactory of Compute". La mission de ce supercalculateur sera d'amener leur IA conversationnelle, Grok, à un niveau supérieur.

xAI d'Elon Musk construit un supercalculateur

Source: Création originale

xAI, la startup d'IA d'Elon Musk, travaille sur un projet ambitieux : la construction d'un supercalculateur géant nommé la "Gigafactory of Compute". Son objectif est d'améliorer considérablement les capacités de leur IA conversationnelle, Grok. Cette machine devrait utiliser 100 000 puces semi-conductrices spécialisées (plus précisément, des GPU NVIDIA H100), dans le but de positionner xAI à l'avant-garde de la technologie de l'IA.

La vision de Musk dépasse largement les niveaux technologiques actuels ; il prédit que l'IA surpassera les capacités cognitives humaines d'ici fin 2025. Lors d'une récente réunion avec des investisseurs, Musk a déclaré que xAI vise à rattraper les leaders de l'industrie comme OpenAI et DeepMind d'ici fin 2024. De plus, Musk pense que le développement de l'IA pourrait atteindre un point où elle remplacerait tous les emplois humains, soulevant de nouvelles questions sur le rôle de la vie humaine. Musk suggère qu'à l'avenir, la tâche de l'humanité pourrait être de "donner du sens à l'IA".

Le supercalculateur "Gigafactory of Compute" devrait être achevé d'ici l'automne 2025 et utilisera des dizaines de milliers de GPU NVIDIA H100, pour un coût potentiel de plusieurs milliards de dollars. Cette puissance de calcul massive sera utilisée pour développer et exploiter la troisième version de Grok, qui nécessitera au moins 100 000 de ces puces – cinq fois le nombre utilisé pour Grok 2.0. Grok est actuellement à la version 1.5, sortie en avril, qui possède déjà des capacités impressionnantes comme le traitement d'images et de diagrammes, et la fourniture de résumés d'actualités basés sur l'IA pour les utilisateurs X premium.

Les composants principaux du supercalculateur "Gigafactory of Compute" de xAI seront les unités de traitement graphique (GPU) H100 de pointe de Nvidia. Selon Musk, la taille de ce nouveau cluster GPU sera au moins quatre fois plus grande que les clusters GPU actuels utilisés par les concurrents de xAI. Le supercalculateur nécessitera des dizaines de milliers de ces GPU H100 haute performance, et la formation de la troisième version de Grok à elle seule nécessitera au moins 100 000 puces – une augmentation significative par rapport aux 20 000 GPU qui auraient été utilisés pour Grok 2.0.

xAI s'associe à Oracle pour construire l'infrastructure du supercalculateur "Gigafactory of Compute", soulignant l'ampleur et le sérieux du projet. Pour financer cette entreprise de grande envergure, Musk a initialement cherché à lever 4 milliards de dollars pour une valorisation de 15 milliards de dollars pour xAI. En raison du fort intérêt des investisseurs, l'objectif a ensuite été augmenté à 6 milliards de dollars, se clôturant, selon les informations, à une valorisation pré-monétaire de 18 milliards de dollars. Cet investissement financier substantiel, estimé à des milliards de dollars, vise à assembler les dizaines de milliers de GPU NVIDIA H100 nécessaires pour alimenter le système d'IA Grok de nouvelle génération.

Recommandé

Obtient-on de meilleures réponses en interrogeant les modèles en anglais ?

30 décembre 2024 • 7 min de lecture

Lors de l'utilisation de grands modèles linguistiques (LLM) comme GPT-4o ou Claude Sonnet, une question fréquente se pose, en particulier pour le grand nombre d'utilisateurs à travers le monde qui interagissent avec ces outils dans des langues autres que l'anglais : quelle langue faut-il utiliser pour obtenir les résultats les plus efficaces ? Bien que les capacités multilingues de ces modèles permettent une communication efficace dans de nombreuses langues, leurs performances semblent souvent diminuées par rapport aux interactions menées uniquement en anglais. Cette exploration examine les raisons possibles de ce phénomène et les situations où passer à l'anglais pourrait être avantageux.

Comment l'intelligence artificielle transforme l'agriculture ?

5 août 2024 • 8 min de lecture

L'agriculture est à l'aube d'une révolution technologique, avec l'Intelligence Artificielle (IA) en fer de lance. L'IA transforme radicalement le secteur agricole, en proposant des solutions inédites pour booster la productivité, optimiser l'utilisation des ressources et répondre aux enjeux tels que la pénurie de main-d'œuvre et la durabilité. Grâce à l'intégration de l'apprentissage machine, de la robotique et de l'analyse de données, l'IA ne se contente pas d'améliorer l'efficacité des pratiques agricoles, elle promet également un avenir plus durable et rentable pour la production alimentaire.

1000 Robotaxis entièrement autonomes en service à Wuhan

17 octobre 2024 • 3 min de lecture

Les véhicules autonomes révolutionnent le transport urbain à travers le monde, et Wuhan, métropole centrale de la Chine, est à l'avant-garde de cette course technologique. La ville a l'objectif ambitieux de devenir la première ville entièrement sans conducteur au monde, et cette initiative produit déjà des résultats impressionnants.

L'IA dans les rayons : la tarification dynamique de Kroger et ses implications

14 août 2024 • 3 min de lecture

Le dernier système de tarification dynamique de Kroger, basé sur l'IA, a suscité des réactions mitigées, notamment en raison des préoccupations concernant la confidentialité des données et les inégalités. Quel est l'impact sur la confiance des clients et quelles questions éthiques soulève cette nouvelle technologie ?

Le paradoxe de Moravec : pourquoi l'IA excelle aux échecs mais trébuche dans les escaliers

14 mai 2024 • 5 min de lecture

Imaginez une machine capable de vaincre le plus grand maître d'échecs au monde, de composer des symphonies ou de prouver des théorèmes mathématiques complexes. Imaginez maintenant cette même machine peinant à simplement traverser une pièce sans heurter les meubles, ou incapable de verser une tasse de café de manière fiable. Ce contraste saisissant est au cœur du paradoxe de Moravec, une observation fondamentale en intelligence artificielle et en robotique, formulée pour la première fois par Hans Moravec et d'autres dans les années 1980. Il révèle une inversion surprenante de la difficulté entre les humains et les machines : ce que nous trouvons difficile, ils le trouvent souvent facile, et ce qui nous vient naturellement peut être extrêmement difficile pour eux. Pourquoi en est-il ainsi, et qu'est-ce que cela nous dit sur la nature de l'intelligence elle-même ?

Robotique Open Source pour un Jardinage Durable

3 juin 2024 • 2 min de lecture

La technologie moderne ouvre de nouvelles voies pour une production alimentaire durable, et FarmBot en est un excellent exemple. Ce projet innovant d'agriculture de précision open-source combine robotique et logiciels pour automatiser le jardinage à petite échelle. Que ce soit pour les jardins domestiques, les environnements éducatifs ou les petites exploitations commerciales, FarmBot offre une solution efficace et durable pour faire progresser la production alimentaire.

Méthodes de test et benchmarks pour les LLM

8 décembre 2024 • 10 min de lecture

L'un des domaines de l'intelligence artificielle qui se développe le plus dynamiquement est la création de modèles de langage de grande taille (LLM), qui figurent parmi les technologies les plus populaires aujourd'hui. Un nombre croissant de fournisseurs publient leurs propres modèles, qu'ils soient fermés ou open source. Ces modèles peuvent répondre à divers sujets avec différents niveaux de qualité et de précision. En raison du rythme rapide de l'innovation, déterminer quel modèle offre les meilleures performances change presque chaque semaine. Mais comment pouvons-nous déterminer si un modèle particulier est réellement plus performant que les autres ? Quelles méthodes et quels tests sont utilisés pour comparer ces outils ?