Le raisonnement de l’IA étend la concurrence des semi-conducteurs des GPU aux puces spécialisées et au déploiement dans les centres de données : après SambaNova, Groq et Cerebras, qui obtiendra le prochain ticket d’entrée ?

L’inférence IA fait évoluer la concurrence des semi-conducteurs des GPU vers les puces dédiées et le déploiement en centre de données

Le centre de gravité du marché du calcul IA se déplace de l’entraînement (training) vers l’inférence (inference). TechCrunch rapporte qu’une nouvelle néocloud d’inférence — General Compute — a levé 15 millions de dollars en amorçage, sur la base d’une valorisation post-money de 60 millions de dollars, en pariant sur la puce d’inférence SN50 de SambaNova, avec l’intention de fournir des capacités de calcul via refroidissement par air, à moindre consommation énergétique, et directement déployables dans des salles informatiques existantes. Le montant du financement de ce cas précis n’est pas très important en soi, mais il révèle un signal industriel plus essentiel : la répartition de la valeur dans la chaîne de l’IA passe de « qui possède le GPU le plus puissant » à « qui peut, avec la puce la plus adaptée, livrer plus vite et à moindre coût de la puissance de calcul aux clients ».

Cela signifie que, à l’avenir, la concurrence ne se jouera pas seulement sur le GPU market, mais aussi sur les puces d’inférence dédiées, les neoclouds, l’alimentation électrique et l’architecture de refroidissement des centres de données, ainsi que sur l’ensemble de la chaîne allant de l’encapsulation avancée à l’approvisionnement en HBM. Pour l’industrie des semi-conducteurs, la structure de la demande en AI chips est en train de changer ; pour le foundry market, l’utilisation des capacités de procédés avancés et d’encapsulation évoluera également ; pour la chaîne d’approvisionnement, le refroidissement par air et par liquide, la transformation des salles informatiques, ainsi que les exigences de densité énergétique influenceront la structure des commandes des équipements, des matériaux et des acteurs de l’assemblage-test.

Autrement dit, cette nouvelle de financement publiée par TechCrunch n’est pas seulement l’histoire d’une startup, mais une fenêtre pour observer comment les dépenses en AI infrastructure modifient la semiconductor supply chain.

Contexte : de l’ère de l’entraînement à l’ère de l’inférence

Au cours des deux dernières années, le grand récit des dépenses d’investissement dans l’IA s’est concentré sur les clusters d’entraînement : l’augmentation de l’échelle des grands modèles a entraîné une tension extrême sur les GPU NVIDIA, la HBM, les réseaux à haut débit et les capacités d’encapsulation avancée. Mais à mesure que les modèles entrent progressivement dans une phase de commercialisation, l’inférence devient un marché de long terme plus vaste. Contrairement à l’entraînement, l’inférence met davantage l’accent sur le coût par token, la latence, le débit et la capacité de concurrence, plutôt que sur la simple performance de calcul flottant de pointe.

C’est précisément la raison pour laquelle les puces d’inférence dédiées regagnent en attention.C’est précisément la raison pour laquelle les puces d’inférence dédiées regagnent en attention. Un article de TechCrunch indique que General Compute a choisi SambaNova plutôt que de continuer à dépendre entièrement des GPU, notamment parce que son architecture met davantage l’accent sur la flexibilité et la capacité mémoire, ce qui la rend adaptée à la conservation du contexte pendant l’inférence. L’article souligne également que la nouvelle puce de SambaNova vise 600 à 700 tokens par seconde, contre environ 250 tokens pour un GPU. Bien que ce type de comparaison repose sur des déclarations publiques de l’entreprise et de fondateurs de start-up et doive encore être confirmé par le marché, il en ressort une direction claire : lorsque l’IA passe des « modèles génératifs » aux workflows « agent-to-agent », la vitesse, le coût et le mode de déploiement détermineront la valeur des puces.

Analyse de la chaîne industrielle

En amont : évolution de la structure de la demande en procédés, HBM, matériaux et équipements

Si les puces d’inférence continuent à se différencier, le segment de la fabrication de wafers subira simultanément deux types de pression : d’une part, la demande continue des GPU/accélérateurs IA pour les procédés avancés ; d’autre part, les conceptions hautement intégrées adoptées par les puces dédiées afin d’obtenir une meilleure efficacité énergétique. Ces deux types de puces dépendent des procédés avancés, mais leurs exigences en matière de capacité, de packaging, de test et de cadence d’approvisionnement ne sont pas les mêmes.

• Foundry : TSMC reste la plateforme de fabrication avancée la plus cruciale ; les nœuds 3nm et 5nm demeurent des étapes clés pour les puces IA haut de gamme et les conceptions combinant CPU/GPU. Samsung Foundry et Intel Foundry se disputent quant à eux la prochaine vague de commandes de fonderie liées à l’IA, en particulier les projets nécessitant une personnalisation client plus rapide et une coordination de packaging plus complexe.
• Packaging avancé : le goulot d’étranglement des puces IA ne réside plus seulement dans la densité des transistors, mais aussi dans l’interconnexion chip-to-chip, la bande passante contournant la HBM et le rendement du packaging. Si les puces d’inférence passent d’un « seul gros GPU » à des « modules de calcul spécialisés » plus distribués, la demande en packaging avancé deviendra plus diversifiée, et le rôle des OSAT comme ASE et Amkor gagnera en importance.
• Équipements : la demande à long terme pour ASML, Applied Materials, Lam Research et KLA reste liée à l’expansion des procédés avancés et du packaging avancé. Tant que l’IA stimule les investissements dans le 3nm/2nm et dans le packaging qui suit, les dépenses en capital pour les équipements ne diminueront pas nettement.
• Matériaux : des conceptions plus efficaces sur le plan énergétique continueront à accroître la demande en wafers de silicium haut de gamme, résines photo, gaz spéciaux et matériaux de packaging avancé. La résilience de la chaîne d’approvisionnement comptera davantage que le simple prix.

En milieu de chaîne : la conception des puces et les infrastructures cloud commencent à se spécialiser à nouveau

Pendant longtemps, les GPU ont quasiment monopolisé le récit de l’expansion de l’entraînement de l’IA, mais le marché de l’inférence est plus susceptible de se segmenter :1. GPU généralistes continuent d’assumer la plus large compatibilité logicielle et les tâches d’entraînement ; 2. ASIC / puces d’inférence spécialisées se disputent des scénarios de modèles spécifiques, de latence et de coûts spécifiques ; 3. neocloud transforme directement les capacités de calcul en service via la location de puissance de calcul, l’intégration des salles informatiques et l’onboarding des clients.

Cela aura des effets différents sur les voies empruntées par NVIDIA, AMD, Google TPU, Amazon Trainium, etc. NVIDIA conserve le meilleur écosystème, mais les clients en phase d’inférence accorderont davantage d’attention au coût par token, à la consommation énergétique, à la flexibilité de déploiement et à la stabilité de l’approvisionnement. AMD a aussi une opportunité d’accroître sa présence chez certains clients cloud et dans les déploiements d’IA en entreprise ; tandis que les puces conçues en interne par les hyperscalers, comme TPU et Trainium, si elles parviennent à offrir un TCO inférieur sur les charges de travail d’inférence, verront leur adoption par le marché continuer à progresser.

En aval : le mode de déploiement des centres de données est en train de changer

La caractéristique clé de General Compute n’est pas seulement d’utiliser des puces SambaNova, mais aussi de mettre l’accent sur le refroidissement par air, une faible consommation d’énergie et un déploiement possible dans des salles informatiques existantes. C’est très important. Jusqu’ici, les centres de données IA s’organisaient surtout autour du refroidissement liquide, d’une alimentation à haute densité et de racks spécialement conçus ; mais si les puces d’inférence peuvent abaisser le seuil thermique, cela élargira considérablement les scénarios de déploiement, et permettra même de redonner de la valeur à certains centres de données inactifs, centres de données périphériques et anciennes installations de colocation.

Pour les opérateurs d’infrastructures cloud et de centres de données, cela signifie que l’argument de vente à l’avenir ne sera peut-être plus seulement « plus de puissance de calcul », mais « une puissance de calcul plus facile à déployer ».

Impact technologique

1. Optimisation de l’inférence plutôt que simple puissance de crête

La valeur des puces d’inférence ne réside pas dans une performance ponctuelle extrême, mais dans le débit soutenu, la hiérarchie mémoire et l’adéquation de la pile logicielle. Des architectures comme SambaNova, qui mettent l’accent sur un accès mémoire plus flexible et la conservation du contexte, montrent que l’industrie passe de « l’accumulation de puissance de calcul » à « l’adaptation aux charges de travail d’inférence ».

2. Le packaging avancé reste un champ de bataille central

Même si certaines puces d’inférence ne visent pas la consommation thermique la plus extrême, le calcul IA dépend toujours fortement des chiplets, de la HBM, des interposers et des interconnexions à haute densité. À long terme, le packaging avancé n’est pas un sous-produit des puces d’entraînement, mais une partie de la compétitivité des puces IA.

3. Le refroidissement par air / une faible consommation pourraient ouvrir de nouveaux marchés

Si une certaine catégorie de puces IA peut être déployée avec moins de contraintes de refroidissement et de modifications de l’alimentation, cela influencera directement la vitesse d’expansion des centres de données. Pour les clients, cela signifie des délais de livraison plus courts ; pour la chaîne d’approvisionnement, cela signifie que la demande incrémentale en infrastructures de refroidissement liquide pourrait être détournée, sans disparaître, mais absorbée par des clusters d’entraînement plus denses et par le cloud hyperscale.

Impact sur la chaîne d’approvisionnement

Qui en bénéficie ?- Fabricants de puces spécialisées : l’expansion des scénarios d’inférence a élargi l’espace de conception au-delà des GPU. - Acteurs de l’encapsulation avancée : davantage de serveurs IA et davantage de combinaisons de puces hétérogènes impliquent une complexité d’encapsulation plus élevée. - Opérateurs de centres de données et de colo : si les puces d’inférence de nouvelle génération sont plus faciles à déployer, les actifs des centres de données existants peuvent être revalorisés. - Fournisseurs d’équipements et de matériaux pour les semi-conducteurs : les investissements dans les procédés avancés et l’encapsulation, portés par l’IA, continuent de soutenir les commandes à long terme.

Qui est exposé aux risques ?

• Chaîne dépendante uniquement des GPU : si les charges de travail d’inférence se répartissent, le rythme de croissance de la demande pour certains GPU pourrait être inférieur aux attentes du pic d’entraînement.
• Solutions de centres de données fortement dépendantes du refroidissement liquide : si le marché privilégie des nœuds d’inférence à faible consommation, la rentabilité de certaines trajectoires de transformation à forte intensité capitalistique diminuera.
• ASIC sans écosystème logiciel : sans suffisamment de développeurs et d’adaptations des modèles, les puces spécialisées risquent d’être rapidement marginalisées sur le marché de l’inférence.

Paysage concurrentiel

Du point de vue concurrentiel, le marché du calcul IA est en train de devenir un « marché à plusieurs niveaux », et non un marché dominé par un seul monopole GPU.

• NVIDIA reste l’acteur central de la fixation des prix, avec un avantage d’écosystème notamment dans l’entraînement et l’inférence haut de gamme.
• Groq, Cerebras, SambaNova représentent différentes formes de spécialisation : les premiers mettent l’accent sur l’inférence à faible latence, les seconds sur le parallélisme à grande échelle et l’innovation architecturale au niveau système, tandis que SambaNova parie sur une mémoire plus flexible et une meilleure efficacité d’inférence.
• Les puces développées en interne par les géants du cloud continueront d’éroder le marché standardisé de l’inférence, car ces acteurs connaissent le mieux leurs propres charges de travail.

Ainsi, l’évolution future des parts de marché ne se traduira pas nécessairement par « qui remplace NVIDIA », mais plutôt par ceci : la part de NVIDIA dans le marché total reste très élevée, tandis que la part des puces spécialisées continue d’augmenter dans le segment de l’inférence.

Implications régionales

États-Unis

Les États-Unis conservent la maîtrise de la conception des puces IA, des plateformes cloud, de l’écosystème logiciel et de la tarification sur les marchés de capitaux. L’émergence de neoclouds comme General Compute montre que l’innovation américaine ne se limite pas aux hyperscalers, mais se manifeste aussi chez des fournisseurs de services verticaux construits autour d’architectures de puces spécifiques.

Taïwan

Taïwan continue d’occuper une position centrale dans les procédés avancés et l’encapsulation. Tant que les commandes liées à l’IA continueront de se concentrer sur le 3 nm/2 nm et l’encapsulation avancée, Taïwan restera l’un des nœuds de fabrication les plus critiques de la chaîne d’approvisionnement mondiale.

Corée du Sud

La Corée du Sud demeure l’un des principaux fournisseurs en amont de l’IA dans la chaîne DRAM/HBM et mémoire. L’expansion du marché de l’inférence n’affaiblira pas l’importance de la HBM ; elle fera seulement en sorte qu’un éventail plus large de puces IA ait besoin d’une mémoire à large bande passante.

Japon

Le Japon reste essentiel dans les matériaux, les produits chimiques et les composants d’équipement.### Japon

Le Japon reste essentiel pour les matériaux, les produits chimiques et les composants d’équipement. L’upgrade des puces IA continuera de stimuler la demande en matériaux de haute pureté et en composants de précision.

Europe

La principale variable en Europe vient du segment des équipements, en particulier de l’écosystème EUV dans lequel évolue ASML. Tant que les procédés avancés et le packaging poursuivront leur progression, la position stratégique de l’Europe sur les équipements critiques ne changera pas.

Chine et Asie du Sud-Est

Le marché chinois conserve une demande importante pour le déploiement de l’inférence IA, mais les restrictions à l’exportation continueront d’affecter l’accès aux puces et aux équipements haut de gamme. L’Asie du Sud-Est, quant à elle, pourrait continuer à absorber une partie des besoins en test et assemblage, ainsi qu’en externalisation des centres de données, devenant ainsi une région bénéficiaire de la diversification des chaînes d’approvisionnement.

Perspective d’investissement

Si les marchés de capitaux s’intéressent à ce type d’entreprises, ce n’est pas seulement parce que la demande en IA augmente, mais parce que l’infrastructure IA fait émerger de nouveaux bassins de profit :

1. Les services de calcul passent de “acheter des GPU” à “vendre des résultats” ; 2. Après l’association de puces dédiées et du déploiement cloud, une structure de marge brute plus élevée pourrait se former ; 3. La logique de valorisation des actifs de centres de données passe peu à peu de salles informatiques généralistes à une infrastructure IA scénarisée.

Pour les investisseurs, la vraie question n’est pas de savoir “si la prochaine Cerebras apparaîtra”, mais plutôt : quelle architecture pourra, à l’ère de l’inférence, établir une dépendance logicielle suffisante, une stabilité de la chaîne d’approvisionnement et une forte fidélité des clients.

Perspectives à long terme

Sur 3 ans : les charges de travail d’inférence croîtront rapidement, les GPU resteront dominants, mais les puces d’inférence dédiées et les neoclouds attireront davantage de clients expérimentaux.

Sur 5 ans : la chaîne de valeur de l’IA pourrait se segmenter plus nettement, l’entraînement, l’inférence et le déploiement en périphérie correspondant chacun à des architectures de puces et de centres de données différentes.

Sur 10 ans : si l’IA agentique devient dominante, le coût de l’inférence deviendra la variable concurrentielle centrale, et la conception des puces comme l’infrastructure seront remodelées autour du “coût par résultat” plutôt que des “performances de pointe”.

Conclusion

La coopération entre General Compute et SambaNova, en apparence un tour de financement précoce et l’introduction d’une nouvelle puce, reflète en réalité un tournant structurel de la chaîne de valeur de l’IA : les GPU restent importants, mais ne sont plus l’unique réponse ; les procédés avancés restent importants, mais le packaging et le déploiement sont devenus tout aussi cruciaux ; les centres de données restent importants, mais la capacité à se déployer rapidement dans les installations existantes devient un nouveau seuil d’entrée.Pour l’industrie des semi-conducteurs, le jugement central derrière cette tendance est le suivant : la compétition autour des AI chips est déjà passée d’une simple course à la puissance de calcul à une concurrence systémique fondée sur « architecture des puces + packaging + déploiement en salle machine + écosystème logiciel ». Celui qui parviendra à réduire davantage les coûts d’inférence, à raccourcir les délais de déploiement et à faciliter l’intégration des clients aura davantage de chances de capter une part plus importante du prochain cycle de dépenses en AI infrastructure.

---

Source URL

• https://techcrunch.com/2026/05/28/has-the-hunt-for-ai-compute-uncovered-the-next-cerebras/