Le prochain goulot d'étranglement de l'IA n'est pas la puissance de calcul : l'intégration des systèmes et l'orchestration des flux de travail deviennent le nouveau champ de bataille.

Introduction

Au cours des dernières années, la question centrale de l'industrie de l'IA a été de savoir si elle pouvait construire suffisamment de puissance de calcul assez rapidement pour répondre à la demande. L'essor des grands modèles de langage a déclenché une course aux infrastructures sans précédent, NVIDIA devenant le centre de l'écosystème de l'IA, les fournisseurs de cloud hyperscale étendant leurs centres de données à un rythme historique, et les fournisseurs de cloud natif IA desservant les organisations incapables d'obtenir de la puissance de calcul par les canaux traditionnels. Cependant, à mesure que le déploiement de l'IA mûrit, l'industrie est confrontée à un nouveau goulot d'étranglement : passer de l'acquisition d'infrastructures d'IA à la manière de les utiliser efficacement.

Cet article analysera l'impact profond de cette transition sur la chaîne d'approvisionnement des semi-conducteurs, les orientations technologiques, la structure concurrentielle du marché et les chaînes d'approvisionnement régionales.

Contexte

Selon les prévisions de Tirias Research, le volume d'inférence des LLM passera de 990 000 milliards de tokens en 2024 à plus de 1 000 000 de milliards de tokens en 2030, tandis que la génération d'images et de vidéos explose également. Mais le point crucial est que les charges de travail d'IA évoluent de la Wave 1 (assistants conversationnels) vers la Wave 2 (agents autonomes). Les agents autonomes nécessitent raisonnement, appel d'outils, maintien du contexte, exécution de tâches en plusieurs étapes, et fonctionnent souvent en continu plutôt qu'en réponse unique. On estime qu'un utilisateur de la Wave 2 consomme en moyenne 40 fois plus de tokens qu'un utilisateur de la Wave 1.

La puissance de calcul reste fondamentale, mais n'est plus une condition suffisante. Le succès dépend de plus en plus de systèmes capables de relier modèles, outils, données et actions en flux de travail fiables. Jensen Huang, PDG de NVIDIA, a récemment décrit l'IA agentique comme un autre « point de bascule » atteint par l'industrie.

Analyse approfondie

Impact technologique

Le centre de gravité des orientations technologiques passe de la performance des modèles uniques à l'intégration au niveau système. Les plateformes cloud IA ne se contentent plus de fournir des GPU et du stockage, elles commencent à encapsuler des flux de travail complets – incluant modèles, moteurs de recherche, bases de données vectorielles, outils d'observabilité, frameworks d'agents, contrôles de sécurité et couches d'orchestration. Par exemple, Nebius a lancé « Agents Blueprint », qui étend le concept d'infrastructure en tant que code aux flux de travail IA, permettant aux utilisateurs de réutiliser des modèles de système validés.

Les barrières technologiques résident dans : la capacité d'intégration inter-couches, la fiabilité de l'orchestration des flux de travail, l'équilibre entre faible latence et haut débit, ainsi que la sécurité dans des environnements multi-locataires. Ces compétences « soft » détermineront davantage les différences que la simple densité de calcul.

Impact sur la chaîne d'approvisionnementCette transition a un impact multidimensionnel sur la chaîne d'approvisionnement : - Puce en amont : demande continue de GPU, mais le modèle de demande passe de l'impulsion d'entraînement à l'inférence continue. Augmentation de la demande de puces réseau haute performance (comme NVIDIA ConnectX, Broadcom Tomahawk), car les agents doivent fréquemment appeler des services externes. - Stockage et mémoire : les agents en fonctionnement continu doivent conserver le contexte, ce qui stimule la demande de mémoire à large bande passante (HBM) et de stockage de grande capacité. - Refroidissement et alimentation : l'inférence continue entraîne une répartition plus uniforme de la puissance dans les centres de données, mais la consommation totale augmente, imposant des exigences plus élevées en matière de refroidissement liquide et de puces de gestion de l'alimentation. - Pile logicielle des plates-formes cloud : les projets open source (comme Kubernetes, Ray, LangChain) et les plates-formes commerciales (comme Nebius, Google Vertex AI) deviennent des composants essentiels, modifiant le paysage de l'écosystème logiciel.

Bénéficiaires : les fournisseurs de services cloud dotés de capacités d'optimisation complètes (comme AWS, Azure, GCP), les intégrateurs système et les startups fournissant des outils d'observabilité et d'orchestration. Risques : les fournisseurs de services cloud qui n'offrent que des GPU nus, et les entreprises semi-conductrices trop dépendantes de la demande de puissance de calcul pour l'entraînement.

Paysage concurrentiel

• Le paysage concurrentiel est en pleine refonte :
• NVIDIA : toujours au cœur du calcul IA, mais l'IA agentique nécessite des réseaux et du stockage plus complexes, ce qui pourrait affaiblir sa position dominante sur les GPU individuels. NVIDIA s'est déjà positionné en acquérant (comme Mellanox) et via des logiciels (CUDA, AI Enterprise), mais fait face à la concurrence d'AMD, Intel et des ASIC personnalisés (comme Google TPU, Amazon Trainium).
• Géants du cloud : AWS, Microsoft Azure, Google Cloud tirent parti de leurs propres puces et services de plate-forme (comme Amazon Bedrock, Azure AI, Vertex AI). Les clouds natifs IA (comme Nebius, CoreWeave) se différencient par leurs flux de travail.
• Conception de puces : l'IA agentique exige une latence d'inférence plus faible, favorisant le développement de puces IA périphériques et de puces dédiées à l'inférence (comme Groq, Cerebras).
• EDA/IP : la complexité de la conception système augmente, imposant de nouvelles exigences aux outils EDA (comme Synopsys, Cadence) en matière de simulation et de vérification.

Le réajustement des parts de marché pourrait s'accélérer : la part de NVIDIA sur le marché de l'inférence pourrait être contestée, mais reste solide sur l'entraînement ; la part des puces développées en interne par les plates-formes cloud augmentera ; le marché des services cloud IA se concentre vers les leaders.### Implications régionales

• États-Unis : Dominés par les hyperscalers cloud et NVIDIA, mais la capacité d’intégration système dépend de l’écosystème logiciel de la Silicon Valley. Les clouds AI natifs comme Nebius (bien qu’enregistré aux Pays-Bas, l’équipe principale est en Israël/États-Unis) devraient émerger.
• Chine : Sous l’effet des restrictions à l’exportation, les puces AI nationales (Huawei Ascend, Cambricon) doivent faire des percées dans les logiciels système, tandis que les plateformes de workflow (comme Baidu AI Cloud, Alibaba Cloud PAI) s’accélèrent. Mais la participation à la chaîne d’approvisionnement mondiale diminue.
• Taïwan (Chine) : La demande de procédés avancés de TSMC reste forte, mais la tendance à l’intégration système a un impact indirect sur la fabrication de wafers. Les entreprises de conception comme MediaTek doivent surveiller les besoins AP d’Agent AI.
• Corée du Sud : Samsung a des avantages dans le stockage (HBM) et la fonderie, mais ses capacités en logiciels système sont faibles.
• Japon : Rapidus se positionne dans l’encapsulation avancée, mais la construction de plateformes cloud AI est en retard.
• Europe : Des entreprises comme Nebius réalisent des percées dans l’innovation des plateformes cloud AI, mais l’échelle industrielle est limitée. La loi européenne sur l’IA pourrait affecter la conformité des workflows.
• Asie du Sud-Est : Devenant un hotspot pour l’implantation de centres de données cloud, mais la capacité locale de conception de puces est faible.

Perspective d’investissement

Le marché financier se concentre à long terme sur la valeur au niveau système. Après la frénésie des GPU, les investisseurs cherchent le prochain point de croissance – les plateformes de workflow AI, les outils d’observabilité, les cadres Agent, etc., auront des valorisations élevées. Côté matériel, les entreprises de puces réseau et de stockage en bénéficient. Sous les risques géopolitiques, une chaîne d’approvisionnement diversifiée est également favorisée.

Perspectives à long terme

• Dans 3 ans : Les plateformes cloud AI passent de l’infrastructure au workflow en tant que service, les grandes entreprises adoptent les workflows Agent. NVIDIA lance davantage de solutions au niveau système.
• Dans 5 ans : L’Agent AI devient courant, la consommation de tokens augmente de façon exponentielle. La structure de la demande de puces évolue : les puces d’inférence et les puces réseau gagnent en part.
• Dans 10 ans : L’intégration système de l’IA pourrait donner naissance à de nouvelles architectures de puces (comme le calcul intégré mémoire, le calcul reconfigurable), et la couche d’abstraction logicielle descend encore.

Analyse de la chaîne industrielle

Amont : Puces et équipements L’Agent AI impose des exigences équilibrées en matière de puces de calcul, de stockage et de réseau. Les GPU restent prédominants, mais les NPU et LPU dédiés à l’inférence émergent progressivement. La demande pour les procédés avancés en 3nm/2nm se maintient, mais les technologies d’encapsulation (comme CoWoS, empilement 3D) sont cruciales pour la bande passante mémoire.

Intermédiaire : Plateformes cloud et piles logicielles Les fournisseurs de services cloud AI (AWS, Azure, GCP, Nebius) deviennent les intégrateurs centraux. Ils proposent des solutions full-stack allant des bibliothèques de modèles aux services d’orchestration. La workflowisation abaisse le seuil d’adoption de l’IA en entreprise, mais augmente la dépendance à la plateforme.### Aval : Applications sectorielles Les entreprises n'ont pas besoin de construire leurs propres systèmes d'IA : elles peuvent directement acheter des services de flux de travail. La différenciation repose sur les données privées, l'ajustement domaine par domaine et la conformité en matière de sécurité. Cela accélère la démocratisation de l'IA, mais transfère également les barrières technologiques vers les données et les connaissances sectorielles.

Conclusion

Le prochain goulot d'étranglement de l'IA n'est pas la puissance de calcul, mais la capacité d'intégration des systèmes et d'orchestration des flux de travail. Ce changement va remodeler la distribution de la valeur dans la chaîne industrielle : des composants matériels vers les logiciels, des puces individuelles vers l'architecture système. Pour les entreprises de puces, il ne suffit plus de fournir des calculs haute performance ; elles doivent collaborer en profondeur avec les plateformes cloud pour offrir un meilleur coût total de possession et une meilleure efficacité d'intégration. Pour les investisseurs, il convient de se concentrer sur les plateformes cloud IA dotées de solutions au niveau système, les puces pour le stockage en réseau et les logiciels d'orchestration. Dans le paysage concurrentiel mondial, les États-Unis conservent un avantage de premier arrivant, mais l'Europe et la Chine offrent des opportunités dans des segments de niche.