MUSK’S XAI TAPS NVIDIA TO EXPAND GROK USING ‘WORLD’S LARGEST AI SUPERCOMPUTER’
LE 25 JANVIER 2023, NVIDIA, LE FABRICANT DE PUCE, ANNONCE QUE SA TECHNOLOGIE DE RÉSEAUTAGE SPECTRUM-X A CONTRIBUÉ À L’EXPANSION DU SUPERORDINATEUR COLOSSUS DE LA STARTUP XAI, RECONNU DÉSORMAIS COMME LE PLUS GRAND CLUSTER D’ENTRAÎNEMENT EN IA AU MONDE. SITUÉ À MEMPHIS, TENNESSEE, COLOSSUS SERT DE TERRAIN D’ENTRAÎNEMENT POUR LA TROISIÈME GÉNÉRATION DE GROK, L’ENSEMBLE DE GRANDS MODÈLES DE LANGAGE DE XAI CONÇU POUR ALIMENTER LES FONCTIONNALITÉS DE CHATBOT POUR LES ABONNÉS X PREMIUM.
UNE CROISSANCE RAPIDE GRÂCE À NVIDIA
INNOVÉ PAR MUSK ET SON ÉQUIPE, COLOSSUS A ÉTÉ TERMINÉ EN SEULEMENT 122 JOURS ET A COMMENCÉ À ENTRAÎNER SES PREMIERS MODÈLES 19 JOURS APRÈS L’INSTALLATION. LA STARTUP XAI PRÉVOIT DE DOUBLER LA CAPACITÉ DU SYSTÈME À 200 000 GPU, SELON UNE DÉCLARATION DE NVIDIA. LA SUPERSTRUCTURE DE COLOSSUS EST UNE SIÈRE GÉANTE DE GPU, CHAQUE UNITÉ SPÉCIALISÉE DANS LE TRAITEMENT DE GROS ENSEMBLES DE DONNÉES. LORSQUE LES MODÈLES GROK SONT FORMÉS, ILS DOIVENT ANALYSER D’ÉNORMES QUANTITÉS DE TEXTE, D’IMAGES ET DE DONNÉES POUR AMÉLIORER LEURS RÉPONSES.
UNE TECHNOLOGIE DE RÉSEAUTAGE AVANCÉE
ACCLAMÉ PAR MUSK COMME LE PLUS PUISSANT CLUSTER D’ENTRAÎNEMENT EN IA AU MONDE, COLOSSUS RELIE 100 000 GPU NVIDIA HOPPER EN UTILISANT UN RÉSEAU UNIFIÉ D’ACCÈS DIRECT À LA MÉMOIRE DISTANTE. CES GPU HOPPER DE NVIDIA GÈRENT DES TÂCHES COMPLEXES EN SÉPARANT LA CHARGE DE TRAVAIL ENTRE PLUSIEURS UNITÉS ET EN LA TRAITANT EN PARALLÈLE. L’ARCHITECTURE PERMET AUX DONNÉES DE CIRCULER DIRECTEMENT ENTRE LES NOEUDS, CONTOURNANT LE SYSTÈME D’EXPLOITATION POUR ASSURER UNE FAIBLE LATENCE AINSI QU’UN THROUGHPUT OPTIMAL POUR LES TÂCHES D’ENTRAÎNEMENT EN IA ÉTENDUES.
AMÉLIORATION DES PERFORMANCES
CONTRAIREMENT AUX RÉSEAUX ETHERNET TRADITIONNELS QUI PEUVENT SOUFFRIR DE CONGESTION ET DE PERTE DE PAQUETS, SPECTRUM-X ATTEINT UN THROUGHPUT DE 95% SANS DÉGRADATION DE LATENCE. CETTE TECHNOLOGIE PERMET À UN GRAND NOMBRE DE GPU DE COMMUNIQUER PLUS EFFICACEMENT LES UNS AVEC LES AUTRES, ÉVITANT LES ENGORGEMENTS LIÉS À UN TROP GRAND NOMBRE DE DONNÉES. AINSI, GROK PEUT ÊTRE FORMÉ PLUS RAPIDEMENT ET PLUS PRÉCISÉMENT, CE QUI EST ESSENTIEL POUR LA CRÉATION DE MODÈLES IA RÉPONDANT EFFICACEMENT AUX INTERACTIONS HUMAINES.
UNE ANNONCE QUI N’A PAS D’IMPACT SUR LE COURS DE L’ACTION
L’ANNONCE DE LUNDI N’A EU QUE PEU D’EFFET SUR LE COURS DE L’ACTION DE NVIDIA, QUI A LÉGÈREMENT DIMINUÉ. LES ACTIONS SE NÉGOCIAIENT À 141$ AU MOMENT DE L’ANNONCE, LA CAPITALISATION BOURSIÈRE DE LA SOCIÉTÉ ATTEIGNANT 3,45 TRILLIONS DE DOLLARS.
REFERENCES:
