H100 Dépassé ! Révélation du Blackwell B100 – Le Secret d’Elon Musk derrière 1 Million de GPU

H100 Dépassé ! Révélation du Blackwell B100 – Le Secret d’Elon Musk derrière 1 Million de GPU

Analyse des performances du Nvidia Blackwell B100 : comparaison avec le H100 et l’A100, évaluation face aux Google TPU et Tesla Dojo, et perspectives d’application dans les modèles GPT/Grok

La nouvelle génération de GPU de Nvidia, basée sur l’architecture Blackwell – le B100 – marque un nouveau jalon dans la puissance de calcul pour l’intelligence artificielle. Dans ce rapport, nous examinons en détail les caractéristiques et performances du B100, le comparons aux générations précédentes (H100 et A100) et analysons ses performances par rapport aux accélérateurs concurrents tels que le Google TPU et le Tesla Dojo. De plus, nous explorons quand et avec quel impact le B100 pourrait être intégré dans de grands modèles linguistiques, comme la série GPT ou le modèle Grok d’Elon Musk. Le rapport inclut également des prévisions sur l’architecture successeur, une analyse du plan de superordinateur de 1 million de GPU évoqué par Elon Musk, un résumé de l’utilisation des GPU dans DeepSeek et la série GPT en Chine, la vérification des GPU utilisées dans Grok-3, la possibilité d’acquisition accélérée de GPU Nvidia par DeepSeek, ainsi qu’un inventaire systématique des informations de prix par produit.

Performances et Caractéristiques du Nvidia Blackwell B100

Le Nvidia B100 est le GPU de nouvelle génération destiné aux centres de données, reposant sur l’architecture Blackwell, et introduit un design innovant à double die.

• Design à Double Die :

Deux puces fonctionnent ensemble comme un seul GPU grâce à un emballage révolutionnaire, intégrant environ 208 milliards de transistors (environ 104 milliards par puce × 2). Cela signifie que le B100 contient 12,8 milliards de transistors de plus que l’architecture Hopper du H100 de la génération précédente.

• Processus de Fabrication Avancé :

Le B100 est fabriqué selon le processus 4 nm de TSMC (personnalisé 4NP) et les deux puces sont interconnectées via une technologie ultraspédite, offrant une bande passante de 10 TB/s entre les puces.

• Grande Capacité Mémoire :

Chaque GPU B100 est équipée de 192 Go de mémoire HBM3e, avec une bande passante totale atteignant 8 TB/s.

Le B100 démontre une capacité de calcul pour l’IA sans précédent. Selon Nvidia, la puissance de traitement du B100 est jusqu’à 5 fois supérieure à celle du H100. Concrètement, en précision FP8, il atteint 20 pétaflops (PFLOPS), soit une amélioration de 2,5 fois par rapport à Hopper, et en précision FP4, il atteint 40 PFLOPS, c’est-à-dire 5 fois plus. Cela indique une avancée révolutionnaire dans les performances grâce à l’adoption de calculs à précision réduite (FP8, FP4) pour accélérer l’inférence en IA. À titre de comparaison, la performance FP8 du H100 (avec activation de la sparsité) est d’environ 4 PFLOPS. Ainsi, le B100 réalise environ 5 fois la puissance du H100 en FP8. De plus, le B100 offre jusqu’à 1,8 PFLOPS en calculs mixtes FP16/BF16 (sans sparsité) et 30 TFLOPS en FP64, fournissant ainsi une puissance suffisante pour les calculs scientifiques.

Malgré sa haute performance, la consommation énergétique du B100 est équilibrée avec un TDP maximal de 700W. Grâce à ces spécifications de haut niveau et à sa large bande passante, une seule GPU B100 peut charger et traiter des modèles d’IA contenant jusqu’à 740 milliards de paramètres, dépassant largement la capacité de la génération précédente (le H100 de Hopper, qui ne traitait que des modèles de dizaines de milliards de paramètres). Cela souligne l’importance d’une grande capacité mémoire et d’une bande passante étendue à l’ère des modèles ultra-scalaires.

Comparaison : B100 vs H100 vs A100

Pour bien comprendre les performances du B100, il est essentiel de le comparer aux générations précédentes. Les GPU pour centres de données Nvidia Ampere A100 (lancée en 2020) et Hopper H100 (lancée en 2022) étaient les plus performantes de leur époque.

• A100 :

Fabriquée avec un processus de 7 nm, elle intègre environ 54 milliards de transistors et est disponible en versions avec 40 Go ou 80 Go de mémoire HBM2e. Pour les calculs tensoriels FP16, elle atteint 312 TFLOPS (sans sparsité) et réalise 1248 TOPS en INT8. Le prix de lancement du modèle A100 80GB était d’environ 15 000 à 17 000 USD, tandis que la version 40GB tournait autour de 9 000 USD.

• H100 :

Fabriquée avec un processus de 4 nm, elle comprend plus de 80 milliards de transistors et est équipée de 80 Go de mémoire HBM3. Selon Nvidia, la H100 offre une performance 4 fois supérieure à celle de l’A100, d’après les tests MLPerf 3.0. En effet, la H100 prend en charge les calculs FP8 grâce à un nouveau Transformer Engine, fournissant plus de 900 TFLOPS en FP16 et environ 4 PFLOPS en FP8 par GPU (avec sparsité). Son prix sur le marché a considérablement augmenté ; dans certaines régions comme le Japon, il atteint environ 5,43 millions de yens (environ 36 300 USD), tandis qu’aux États-Unis, il se situe en moyenne autour de 30 000 USD. Les GPU H100 PCIe officielles de Nvidia débutent à environ 25 000 USD.

Ces comparaisons montrent clairement que le B100 représente un saut générationnel avec des performances extraordinairement supérieures à celles du H100. Si le H100 est 4 fois plus rapide que l’A100, on peut s’attendre à ce que le B100 offre jusqu’à 10 fois plus de puissance de traitement AI par rapport à l’A100. En particulier, pour les calculs en deep learning à précision réduite (FP8/FP4), l’avantage du B100 est nettement perceptible, révolutionnant la vitesse d’entraînement et d’inférence des modèles basés sur de vastes opérations matricielles.

B200 et Autres Variantes

Au sein de l’architecture Blackwell, Nvidia a également présenté un modèle haut de gamme appelé B200, en plus du B100.

• B200 :

Le B200 repose également sur un design dual-die et présente une structure similaire à celle du B100, mais avec une fréquence d’horloge plus élevée et des cœurs entièrement activés, ce qui permet une amélioration des performances pouvant atteindre jusqu’à 30 %. Par exemple, pour les calculs FP4, le B100 atteint 7 PFLOPS (mode dense), tandis que le B200 atteint environ 9 PFLOPS ; pour les calculs FP8, le B100 fournit 3,5 PFLOPS (dense) contre 4,5 PFLOPS pour le B200. Dans un serveur HGX avec 8 GPU, 8 unités de B100 délivrent un total de 56 PFLOPS en FP8 et 112 PFLOPS en FP4, comparativement à 8 unités de B200 qui atteignent 72 PFLOPS en FP8 et 144 PFLOPS en FP4. Les deux modèles supportent la communication entre GPU via NVLink de cinquième génération et NVSwitch de quatrième génération, avec une bande passante de 1,8 TB/s, maximisant ainsi l’efficacité des configurations en cluster. Bien qu’aucune version PCIe ou grand public n’ait encore été annoncée, il est prévu que la prochaine série GeForce RTX 50 reposera sur l’architecture Blackwell, ce qui laisse présager l’apparition de produits dérivés pour le gaming et les stations de travail.

Analyse de la Concurrence : Google TPU et Tesla Dojo

Les principaux concurrents des GPU Nvidia dans le domaine de l’accélération de l’IA sont la série Google TPU et l’accélérateur exclusif Tesla Dojo, tous deux développés en interne pour optimiser les charges de travail en IA.

Google TPU (TPU v4 / v5)

Les TPU de Google sont des ASIC spécifiquement conçus pour l’entraînement du deep learning, utilisant de grandes unités de calcul matriciel pour atteindre une haute efficacité énergétique.

• La TPU v4, lancée en 2020, offre une performance jusqu’à 10 fois supérieure à celle de la génération précédente et est extensible via des TPU pods. Selon des présentations académiques, dans un système de taille comparable, la TPU v4 est 1,2 à 1,7 fois plus rapide que la Nvidia A100, tout en consommant 1,3 à 1,9 fois moins d’énergie. (Cette comparaison a été réalisée avec l’A100 ; Google n’a pas directement comparé la TPU v4 avec la H100, lancée en 2022.) Jensen Huang, PDG de Nvidia, a déclaré que, puisque la H100 est 4 fois plus puissante que l’A100, l’avantage de la TPU v4 disparaîtra à l’ère de la H100.

D’après les spécifications officielles, la TPU v4 atteint environ 275 TFLOPS par puce en précision BF16, dispose de 32 Go de mémoire HBM et offre une bande passante de 1,6 TB/s. Un TPU pod composé de plus de 2048 puces TPU v4 peut atteindre des performances au niveau des exaflops et est utilisé en interne par Google pour entraîner des modèles massifs tels que PaLM.

Tesla Dojo

Tesla Dojo est un superordinateur personnalisé développé par Tesla pour accélérer l’entraînement de son IA de conduite autonome.

• Au cœur de Dojo se trouve la puce D1, fabriquée en 7 nm, qui intègre 354 nœuds d’entraînement (unités de calcul) et atteint environ 362 TFLOPS en précision BF16 et CFP8, ce qui est comparable ou légèrement supérieur aux 312 TFLOPS en FP16 de la Nvidia A100.

• Dojo regroupe 25 puces D1 pour constituer un « tile d’entraînement », chaque tile fournissant environ 9 PFLOPS en BF16/CFP8. En connectant 36 de ces tiles dans une configuration 6×6, un rack est formé, et plusieurs racks assemblés constituent le Dojo ExaPOD, qui, selon le Tesla AI Day 2022, est conçu pour atteindre une puissance théorique maximale d’environ 1,1 EFLOPS. Tesla a commencé à utiliser partiellement Dojo dès 2023 pour l’entraînement de son réseau de neurones Autopilot et prévoit d’investir environ 1 milliard de dollars entre 2024 et 2025 pour étendre l’infrastructure.

Il est intéressant de noter que, malgré le développement de Dojo, Tesla continue d’exploiter d’importants clusters de GPU Nvidia. En 2021, Tesla a construit un superordinateur composé de 5760 GPU A100 (720 nœuds × 8 GPU), ce qui équivaut à 1,8 EFLOPS en FP16, et en 2023, un cluster massif de 10 000 GPU H100 a été présenté, avec une performance estimée à environ 39,5 EFLOPS en FP8. Elon Musk a déclaré que, si Nvidia peut fournir suffisamment de GPU, Tesla pourrait même se passer de Dojo, ce qui montre que la disponibilité des GPU demeure un goulot d’étranglement.

Du point de vue des performances, la puce D1 de Dojo, bien que moins flexible et dotée d’une capacité mémoire inférieure par rapport aux GPU traditionnelles, se révèle extrêmement efficace pour des charges de travail spécialisées (par exemple, les modèles de vision pour la conduite autonome de Tesla). En revanche, le Nvidia B100 offre une applicabilité plus large pour les tâches d’IA générales, soutenu par un solide écosystème CUDA, ce qui en fait le choix privilégié pour la plupart des projets de recherche et industriels en dehors de Google et Tesla.

Perspectives d’Utilisation du B100 dans les Séries GPT et Grok

L’arrivée de ces nouvelles GPU suscite un vif intérêt quant à leur impact sur le développement des modèles de langage à grande échelle (LLM).

• Utilisation dans la Série GPT :

GPT-3 (175B), lancé en 2020, est un modèle gigantesque de 175 milliards de paramètres, entraîné avec environ 10 000 GPU Nvidia V100. GPT-4, présenté en 2023, a été entraîné avec près de 25 000 GPU A100 sur une période continue de 90 à 100 jours, soit environ 70 fois plus d’opérations que pour GPT-3. Cela illustre la croissance exponentielle de la demande en GPU à chaque génération.

• Attentes pour GPT-5 et les Modèles Futurs :

Bien que les détails officiels manquent, on s’attend à ce que le prochain modèle nécessite au moins 5 fois plus de puissance de calcul que GPT-4. Dans ce scénario, le Nvidia B100, offrant jusqu’à 5 fois la performance de l’A100, représenterait un avantage considérable, permettant un entraînement plus rapide avec le même nombre de GPU ou supportant des modèles encore plus grands dans la même période. Par exemple, si GPT-4 a été entraîné avec 25 000 A100 en 3 mois, théoriquement 100 000 B100 pourraient atteindre un résultat équivalent, ou 25 000 B100 pourraient être utilisées pour entraîner un modèle encore plus vaste.

La Série Grok de xAI et le B100

L’entreprise d’intelligence artificielle xAI, fondée par Elon Musk en 2023, a développé son propre modèle de langage appelé Grok. La version actuelle, Grok-3, considérée comme concurrente de GPT-4, a été entraînée en utilisant pas moins de 100 000 GPU H100 dans le cluster Dojo de Tesla situé à Memphis, Tennessee. La puissance de calcul de Grok-3 est estimée être 10 fois supérieure à celle de la génération précédente, et Musk a déclaré qu’il s’agissait de l’une des « IA les plus intelligentes de la planète ». xAI prévoit d’étendre davantage son superordinateur Colossus, visant à atteindre à terme entre 200 000 et 1 million de GPU. Cette échelle représenterait non seulement la plus grande au monde, mais nécessiterait également un investissement d’environ 25 à 30 milliards de dollars (environ 33 à 40 billions KRW). Musk affirme que cet investissement permettra d’obtenir une puissance de calcul sans précédent – jusqu’à 5 fois supérieure à celle obtenue avec 200 000 GPU – et ainsi de garantir un leadership dans le développement de l’IA.

Dans ce contexte, l’introduction du B100 pourrait être cruciale pour xAI. Bien que Grok-3 repose actuellement sur les H100, il est probable qu’à partir de fin 2025, lorsque la production massive du B100 commencera, xAI adoptera ce GPU pour la prochaine génération de modèles Grok. Grâce aux performances impressionnantes du B100, xAI pourrait remplacer une partie du nombre prévu de GPU par un nombre réduit de B100, tout en obtenant des performances équivalentes ou supérieures. Par exemple, si une tâche nécessitait auparavant 100 000 H100, théoriquement 100 000 B100 offriraient une amélioration de performance de 5 fois, permettant à xAI, avec un cluster de 100 000 à 200 000 B100, de surpasser des concurrents comme OpenAI en termes de performance.

Il est à noter que ces scénarios dépendent de la disponibilité réelle et du calendrier de production du B100. Selon la feuille de route officielle de Nvidia, un modèle successeur dans la série Blackwell (basé sur l’architecture Rubin) devrait être lancé entre fin 2025 et début 2026, ce qui signifie qu’au moment où xAI atteindra son objectif d’1 million de GPU, les GPU de nouvelle génération (par exemple, le R100 basé sur Rubin) pourront également être envisagées. Toutefois, à court terme, durant 2025-2026, le B100 restera probablement l’option la plus puissante et jouera un rôle central dans l’entraînement des modèles d’IA ultra-scalaires de prochaine génération, qu’ils appartiennent à la série GPT ou Grok.

Perspectives pour le Successeur de Blackwell : L’Architecture Rubin

Nvidia met à jour ses architectures de GPU pour centres de données environ tous les deux ans (Ampere → Hopper → Blackwell), et on entend déjà des rumeurs selon lesquelles la prochaine génération portera le nom de “Rubin”. Ce nom, choisi en hommage à l’astronome Vera Rubin, devrait être utilisé dans les futures GPU IA de Nvidia.

Caractéristiques et Améliorations Attendues de l’Architecture Rubin

• Processus de Fabrication Plus Fin :

Selon des rapports médiatiques, les GPU de la génération Rubin (provisoirement appelées R100) utiliseront le processus 3 nm de TSMC (N3), offrant une meilleure efficacité énergétique et une densité d’intégration supérieure par rapport au processus 4 nm du B100 Blackwell (4N). Ceci est particulièrement important car le B100 atteint déjà un TDP proche de 700W, ce qui met sous pression les systèmes de refroidissement et d’alimentation.

• Conception Avancée par Chiplets :

On s’attend à ce que les GPU Rubin adoptent un design à quatre chiplets (quadruple chiplet) plutôt que le design dual-die du B100, permettant d’intégrer une plus grande surface de silicium dans un seul paquet pour maximiser les performances. Nvidia a déjà utilisé la technologie de packaging CoWoS-L dans le B100 pour combiner deux puces, et dans Rubin, cette technologie devrait être perfectionnée pour connecter efficacement quatre puces et augmenter ainsi la bande passante.

• Nouvelle Technologie de Mémoire (HBM4) :

Les GPU Rubin pourraient être les premières à intégrer la technologie HBM4, remplaçant la configuration actuelle 6-Hi HBM3(e) par 8 empilements de HBM4, ce qui augmenterait considérablement la capacité de mémoire et la bande passante. Bien que la norme ne soit pas encore définitive, il est prévu que chaque empilement offre plus de 32 Go avec une vitesse d’E/S plus rapide, ce qui pourrait conduire à une capacité totale de plus de 256 Go par GPU Rubin et à une bande passante supérieure à 10 TB/s.

• Intégration avec la CPU Grace :

Nvidia développe actuellement la CPU pour centres de données basée sur Arm, nommée Grace, et prévoit de l’intégrer avec les GPU dans un module combiné Grace+Rubin (codename GR200). Cette intégration réduira la latence entre le CPU, la mémoire et la GPU, tout en augmentant la bande passante, ce qui est crucial pour gérer les énormes volumes de données nécessaires à l’entraînement des modèles IA massifs.

• Performances et Date de Lancement :

Selon l’analyste Mitch Kou, la première GPU basée sur Rubin (R100) devrait entrer en production de masse au quatrième trimestre 2025, avec des livraisons aux premiers grands fournisseurs de cloud prévues pour début 2026. Bien que des chiffres exacts n’aient pas encore été annoncés, une amélioration de 2 à 3 fois par rapport au B100 est attendue. Une attention particulière sera accordée à la résolution des défis liés à la consommation d’énergie et aux goulots d’étranglement de la mémoire, ainsi qu’à l’optimisation du design de l’accélérateur (par exemple, une meilleure optimisation TF32/FP8 et une Transformer Engine 2.0 plus efficace).

En résumé, l’architecture Rubin – grâce à un processus de fabrication plus fin, un design de chiplet étendu et une technologie de mémoire avancée – est appelée à inaugurer une nouvelle ère dans le calcul de l’IA. Dès 2026, ces GPU deviendront la pierre angulaire pour l’entraînement de la prochaine génération de modèles d’IA, tels que GPT-6 ou Grok-5, en fournissant une puissance de calcul qui dépassera largement les standards actuels.

Analyse de la Vision d’Elon Musk : Superordinateur à 1 Million de GPU

Comme évoqué dans la série Grok, Elon Musk a publiquement exprimé son ambition de construire un superordinateur IA composé de 1 million de GPU. Dans cette section, nous examinons le contexte et la signification de cette vision.

L’entreprise xAI de Musk est en train de construire un superordinateur baptisé « Colossus », qui a déjà servi à entraîner Grok-3 avec 100 000 GPU H100. Le plan est d’étendre le système à environ 200 000 GPU, avec pour objectif final d’atteindre 1 million de GPU – une échelle sans précédent. Voici ce que cela implique :

• Puissance de Calcul :

Avec 1 million de GPU de niveau H100, il serait théoriquement possible d’atteindre jusqu’à 4 exaflops (EFLOPS) en calculs FP8 (puisqu’une H100 offre environ 4 PFLOPS en FP8 ; 1 000 000 × 4 PFLOPS = 4 EFLOPS). Cela dépasse de plusieurs fois la puissance de la superordinateur la plus puissante du monde, Frontier (1,1 EFLOPS en FP64), et représente un record historique en matière de puissance de calcul IA. Même avec le B100 ou les futures GPU Rubin, la puissance théorique pourrait atteindre près de 10 EFLOPS.

• Coûts :

Acquérir et exploiter 1 million de GPU nécessite des investissements colossaux. Si une H100 coûte environ 25 000 USD, 1 million de GPU représenteraient un coût d’environ 25–30 milliards USD (soit environ 33–40 billions KRW). En ajoutant les coûts d’infrastructure, de refroidissement, de personnel et de maintenance, l’investissement total pourrait dépasser 50 billions KRW. Pour mettre cela en perspective, les plus grands centres de données investissent environ 10 billions KRW par an, ce qui montre que le projet de Musk relève d’un tout autre niveau d’investissement.

• Nécessité et Applications :

Pourquoi aurait-on besoin d’autant de GPU ? Musk soutient que la prochaine génération d’intelligence artificielle doit être beaucoup plus grande et avancée que les modèles actuels tels que ChatGPT ou Grok-3, ce qui exige une augmentation exponentielle de la puissance de calcul. Il met en avant deux piliers fondamentaux pour la performance des modèles IA : la taille du modèle (scale) et le volume de données (data), soulignant que les données de haute qualité se raréfient. Pour compenser cette pénurie, d’énormes quantités de données synthétiques ou réelles (par exemple, des vidéos de conduite autonome de Tesla) devront être exploitées, ce qui requiert une augmentation drastique de la puissance de calcul. Ainsi, un superordinateur composé de 1 million de GPU est la solution idéale.

• Défis Techniques :

Connecter 1 million de GPU dans un seul cluster représente un défi technique colossal. Les algorithmes d’apprentissage distribué ont été testés jusqu’à des dizaines de milliers de nœuds, mais synchroniser et optimiser la communication entre 1 million de nœuds est un problème entièrement nouveau. Nvidia a déjà réussi à connecter des centaines à des milliers de GPU via NVSwitch et InfiniBand HDR/NDR, mais passer à l’échelle d’1 million nécessite des solutions révolutionnaires en termes de topologie réseau, d’optimisation logicielle et de tolérance aux pannes.

• En Résumé :

Si la vision d’Elon Musk pour un superordinateur avec 1 million de GPU se concrétise, ce sera un projet historique qui établira une nouvelle norme en matière de puissance de calcul IA. Cela offrirait un avantage infrastructurel sans précédent par rapport à des concurrents tels qu’OpenAI et Google, agissant comme catalyseur pour le développement de modèles IA à une échelle totalement nouvelle. Parallèlement, d’énormes investissements et défis techniques devront être relevés, sans oublier les risques géopolitiques liés à l’approvisionnement en puces IA avancées.

DeepSeek et l’Acquisition Non Officielle de GPU en Chine

En Chine, malgré les restrictions d’exportation imposées par les États-Unis, il a été constaté que des GPU IA avancées de Nvidia (telles que la H100) sont obtenues via des canaux alternatifs afin de développer des modèles IA ultra-scalaires. Un exemple notable est la startup DeepSeek.

Aperçu de DeepSeek et Utilisation de GPU :

• DeepSeek a été fondée en 2023 en tant que startup IA en Chine, issue d’un projet de recherche mené au sein du High-Flyer Hedge Fund, une institution financière chinoise. High-Flyer avait déjà acquis proactivement 10 000 GPU A100 en 2021 pour le trading algorithmique, et DeepSeek a ensuite été scindée pour développer des modèles IA plus larges.

• En 2024, DeepSeek a présenté son modèle linguistique ultra-scalé « DeepSeek V3 » comptant 671 milliards de paramètres, attirant une grande attention. De manière surprenante, ils affirment avoir entraîné ce modèle avec seulement 2048 GPU H800 en seulement 2 mois. La H800 est une version modifiée de la H100 dont la bande passante a été réduite pour se conformer aux régulations d’exportation américaines, tout en conservant la même puissance de calcul qu’une carte de 700W.

• Bien que DeepSeek n’ait pas précisé exactement comment ils ont réussi à entraîner un modèle aussi volumineux si rapidement avec un nombre limité de GPU, ils affirment avoir été 11 fois plus efficaces en termes de temps GPU que pour l’entraînement du modèle Llama3 de Meta (4050 milliards de paramètres). Cela suggère qu’ils ont peut-être utilisé un matériel encore plus puissant que ce qui a été déclaré publiquement.

En janvier 2025, Bloomberg et d’autres médias ont rapporté que le gouvernement des États-Unis enquêtait pour savoir si DeepSeek avait acquis illégalement des GPU Nvidia. Il est allégué que DeepSeek aurait créé une société fictive à Singapour pour contourner le contrôle américain et faire passer en contrebande des dizaines de milliers de GPU H100. Les données financières de Nvidia montrent que la part des ventes via Singapour est passée de 9 % à 22 % en deux ans, ce qui pourrait indiquer l’existence de ce canal. Les autorités américaines, y compris le Département du Commerce et le FBI, enquêtent, tandis que Nvidia affirme que cette augmentation est due à un effet « bill-to » pour la revente dans d’autres régions.

Des analyses indépendantes estiment que DeepSeek possède environ 50 000 GPU de la génération Hopper, dont environ 10 000 H800 obtenues légalement, 10 000 H100 acquises avant les sanctions ou par des canaux informels, et le reste est composé d’autres modèles tels que la H20, conçus pour le marché chinois (la H20 est une version atténuée de la Hopper, avec plus d’1 million d’unités produites en 2024). Ces GPU sont partagées entre High-Flyer et DeepSeek et sont utilisées pour des applications allant du trading algorithmique aux recherches sur des modèles linguistiques ultra-scalaires, soulignant l’intensité de la compétition mondiale pour l’hardware IA le plus avancé.

Aperçu des Prix pour l’Hardware IA (2023–2025, Estimations du Marché)

• Nvidia A100 40GB : environ 8 000–10 000 USD

• Nvidia A100 80GB : environ 15 000–17 000 USD

• Nvidia H100 (80GB, SXM5) : environ 25 000–35 000 USD

• Nvidia B100 : prix estimé entre 30 000 et 40 000 USD+

• Nvidia B200 : prix attendu supérieur à 40 000 USD

• Google TPU v4 : non commercialisé en tant que produit ; disponible via Google Cloud, avec une valeur estimée à plus de 10 000 USD par module

• Tesla Dojo D1-Chip : prix non divulgué (usage interne exclusif de Tesla)

• Nvidia H800 (pour la Chine) : environ 200 000 ¥ (prix estimé en Chine, équivalent à environ 3,6 millions de KRW, variable selon le taux de change)

• Nvidia H20 (pour la Chine) : prix estimé autour de 10 000 USD

Les prix peuvent varier en fonction des conditions du marché et de la demande. Durant le boom actuel de l’IA, même les GPU d’occasion dépassent parfois les prix des unités neuves. Bien que l’on s’attende à une stabilisation des prix avec la commercialisation massive du B100 en 2025 et l’arrivée de concurrents comme AMD et Intel, l’acquisition de chips IA reste actuellement un investissement conséquent pour les entreprises.

Conclusion

Le Nvidia Blackwell B100 se présente comme un véritable disruptif à l’ère du calcul extrême pour l’IA. Avec une amélioration des performances pouvant atteindre jusqu’à 5 fois celle du H100 et une capacité mémoire ainsi qu’une bande passante supérieures, le B100 deviendra une infrastructure critique pour l’entraînement des modèles ultra-scalaires de prochaine génération, tels que les successeurs de GPT-4. Bien que des solutions spécialisées telles que le Google TPU et le Tesla Dojo existent, la polyvalence et l’écosystème robuste de Nvidia rendent peu probable qu’à court terme l’influence du B100 soit égalée.

Les projets d’IA de pointe, tels que GPT d’OpenAI et Grok de xAI, devraient évoluer plus rapidement, à plus grande échelle et avec une intelligence accrue grâce à l’utilisation du B100 et des GPU futures. En particulier, la vision d’Elon Musk d’un superordinateur composé d’1 million de GPU, si elle se réalise, pourrait faire bondir de manière exponentielle la courbe de performance de l’IA. Parallèlement, le cas DeepSeek démontre que la compétition mondiale pour des technologies avancées en IA et les stratégies pour contourner les restrictions commerciales s’intensifieront, exigeant des considérations non seulement technologiques, mais également politiques et stratégiques dans l’approvisionnement en semi-conducteurs IA.

En définitive, le slogan “De meilleures GPU génèrent une IA plus puissante” restera valable pendant longtemps. Le Nvidia Blackwell B100 et son successeur Rubin offriront de nouvelles opportunités et défis à l’industrie de l’IA, et la manière dont ces avancées technologiques seront exploitées déterminera l’écart en capacités IA entre entreprises et nations. Les chercheurs et l’industrie devront suivre de près ces feuilles de route matérielles et continuer à innover dans l’architecture et l’optimisation des modèles afin de produire des résultats créatifs et significatifs. Malgré la forte concurrence, nous espérons que ces progrès technologiques conduiront à des systèmes d’IA toujours plus performants, pour le bénéfice ultime de l’humanité.

Découvrez l’analyse complète de NVIDIA GTC 2025

#NVIDIA #Blackwell #B100 #H100 #A100

#GPU #AI #IntelligenceArtificielle #GPT #Grok #DeepSeek #ElonMusk

#TeslaDojo #GoogleTPU #Superordinateur #MillionGPU #RévolutionIA

#DeepLearning #MachineLearning #DataCenter #TechNews #ActualitésTI