Début octobre 2024, une annonce a secoué le monde de la technologie : Elon Musk et son équipe ont réussi à bâtir un supercalculateur en seulement 19 jours pour son entreprise xAI. Cet exploit a été salué par Jensen Huang, le PDG de Nvidia, qui a affirmé qu'une telle prouesse prend habituellement des années.
Un supercalculateur crée en accéléré
Le supercalculateur en question a été construit pour xAI, une entreprise fondée par Elon Musk en 2023, qui se concentre sur le développement de l'intelligence artificielle. Musk a positionné xAI en tant que concurrent direct d'OpenAI, la société à l'origine de ChatGPT. Le projet aurait nécessité un investissement de près de 10 milliards de dollars (9,24 milliards d’euros), illustrant l'ambition de Musk de se positionner comme un acteur incontournable de l'IA. Ce supercalculateur est conçu pour effectuer des calculs massifs liés à l'intelligence artificielle, une nécessité croissante dans le secteur.
Ce projet, réalisé à une vitesse fulgurante, souligne non seulement la capacité d'innovation de Musk mais aussi les enjeux actuels dans la course à la puissance informatique et à l'intelligence artificielle.
Jensen Huang, PDG de Nvidia, a exprimé son admiration pour la vitesse à laquelle ce supercalculateur a été achevé, expliquant que ce type de projet prend généralement quatre ans. La différence majeure ici est que Musk et son équipe ont compressé ce délai à moins de trois semaines, un exploit inédit dans l'industrie. Selon Huang, rien de tel n’a jamais été accompli auparavant.
Le projet de supercalculateur de Musk n’a pas seulement consisté à assembler des composants, mais à construire une usine entière. Cette usine, où sont logées les cartes graphiques Nvidia H200, a été équipée de systèmes avancés de refroidissement liquide et d’alimentation électrique pour gérer les 100 000 GPUs (unités de traitement graphique) nécessaires à ce type de calcul intensif.
La carte graphique H200, utilisée dans ce projet, est la plus rapide du marché selon Nvidia. Cependant, il est à noter que son concurrent AMD a une position différente sur cette affirmation. Malgré tout, il est indéniable que ces GPUs H200 sont actuellement au cœur de nombreux projets liés à l'intelligence artificielle, dont le projet de Musk.
L'élément remarquable de cette construction n’est pas seulement la rapidité de l’assemblage mais aussi la mise en place de la première phase de formation d'IA sur ce supercalculateur. Passer de la phase conceptuelle à une utilisation fonctionnelle en si peu de temps est un exploit impressionnant, d’autant plus que Nvidia estime qu'il faut en moyenne trois ans rien que pour la planification d'un centre de données similaire.
Comment Musk a-t-il réalisé cet exploit ?
La rapidité de ce projet a soulevé des questions sur la manière dont Musk et Nvidia ont pu collaborer pour réaliser cette prouesse. Jensen Huang a souligné que la dernière année d’un tel projet est souvent consacrée à l’installation et à la mise en service de l’équipement, une étape que l’équipe de Musk a réussi à réduire de manière significative. La coordination entre xAI et Nvidia a certainement joué un rôle clé, même si les détails exacts de cette collaboration restent flous.
Un autre aspect à considérer est le contexte de pénurie de processeurs graphiques. En effet, les GPUs de Nvidia sont devenus des ressources rares en raison du boom de l'IA. Cela a fait grimper les prix et rendu difficile l'acquisition de grandes quantités de ces processeurs. Le fait que Musk ait réussi à obtenir et à assembler autant de GPUs en si peu de temps souligne l'influence et les ressources dont il dispose.
Cet exploit d'Elon Musk et de xAI est significatif non seulement pour ce qu’il représente en termes de prouesses techniques, mais aussi pour ce qu’il suggère sur l’avenir de l’IA. Les besoins en calcul informatique pour entraîner et exécuter des modèles d'intelligence artificielle deviennent de plus en plus gigantesques. La capacité à construire rapidement des infrastructures adaptées à ces besoins confère un avantage stratégique majeur dans une industrie hautement compétitive.
Avec ce supercalculateur, Musk positionne xAI comme un acteur capable de rivaliser avec des géants comme OpenAI, Microsoft ou encore Google. L'accélération du développement de telles infrastructures pourrait également inspirer d'autres entreprises technologiques à revoir leurs processus de construction et d'optimisation pour ne pas se laisser distancer.