AI的下一个瓶颈不是算力：系统集成与工作流编排成为新战场

导语

过去几年，AI产业的核心问题是能否快速建设足够算力以满足需求。大语言模型的兴起引发了前所未有的基础设施竞赛，NVIDIA成为AI生态中心，超大规模云厂商以历史罕见速度扩张数据中心，AI原生云提供商为无法通过传统渠道获得算力的组织提供服务。然而，随着AI部署走向成熟，产业正面临一种新的瓶颈：从获取AI基础设施转向如何有效利用这些基础设施。

文章将分析这一转变对半导体产业链、技术路线、市场竞争格局及区域供应链的深远影响。

背景

Tirias Research的预测显示，LLM推理量将从2024年的990万亿token增长至2030年的超过1千万亿token，同时图像和视频生成也在激增。但关键在于，AI工作负载正从Wave 1（对话式助手）向Wave 2（自主代理）演进。自主代理需要推理、调用工具、保持上下文、执行多步骤任务，且往往持续运行而非单次响应。据估计，Wave 2用户平均消耗的token是Wave 1用户的40倍。

算力仍是基础，但已不再是充分条件。成功越来越依赖于将模型、工具、数据和动作连接成可靠工作流的系统。NVIDIA CEO黄仁勋近期将agentic AI描述为产业到达的另一个“转折点”。

深度分析

Technology Impact

技术路线的重心正从单一模型性能转向系统级集成。AI云平台不再仅仅提供GPU和存储，而是开始封装完整的工作流——包括模型、检索引擎、向量数据库、可观测性工具、Agent框架、安全控制及编排层。例如，Nebius推出的“Agents Blueprint”将基础设施即代码的概念扩展到AI工作流，允许用户重复使用已验证的系统模板。

技术壁垒体现在：跨层集成能力、工作流编排的可靠性、低延迟与高吞吐的平衡，以及多租户环境下的安全性。这些软技能将比单纯的算力密度更决定差异。

Supply Chain Impact

• 这一转变对供应链的影响是多维的：
• 上游芯片：对GPU的持续需求，但需求模式从训练脉冲转向持续推理。对高性能网络芯片（如NVIDIA ConnectX、Broadcom Tomahawk）的需求增加，因为agent需要频繁调用外部服务。
• 存储与内存：持续运行的agent需保持上下文，带动高带宽内存（HBM）和大容量存储器需求。
• 冷却与供电：持续推理导致数据中心功耗分布更均匀，但总功耗上升，对液冷和电源管理芯片提出更高要求。
• 云平台软件栈：开源项目（如Kubernetes、Ray、LangChain）及商业化平台（如Nebius、Google Vertex AI）成为核心组件，改变软件生态格局。

受益环节：具备全栈优化能力的云服务商（如AWS、Azure、GCP）、系统集成商、以及提供可观测性和编排工具的初创公司。 面临风险：仅提供裸机GPU的云服务商，以及过度依赖训练算力需求的半导体公司。

Competitive Landscape

• 竞争格局正在重塑：
• NVIDIA：仍占据AI计算核心，但agentic AI需要更复杂的网络和存储，可能削弱其单GPU主导地位。NVIDIA已通过收购（如Mellanox）和软件（CUDA、AI Enterprise）布局全栈，但面临来自AMD、Intel及定制ASIC（如Google TPU、Amazon Trainium）的挑战。
• 云巨头：AWS、微软Azure、Google Cloud 凭借自研芯片和平台服务（如Amazon Bedrock、Azure AI、Vertex AI）占据优势。AI原生云（如Nebius、CoreWeave）则通过工作流差异化竞争。
• 芯片设计：agent AI对低延迟推理要求更高，推动边缘AI芯片和推理专用芯片（如Groq、Cerebras）的发展。
• EDA/IP：系统设计复杂度提升，对EDA工具（如Synopsys、Cadence）的仿真和验证能力提出新要求。

市场份额调整可能加速：NVIDIA在推理市场的份额或受挑战，但训练端仍稳固；云平台自研芯片份额将增长；AI云服务市场向头部集中。

Regional Implications

• 美国：超大规模云厂商和NVIDIA主导，但系统集成能力依赖硅谷软件生态。AI原生云如Nebius（虽注册于荷兰，但核心团队在以色列/美国）有望崛起。
• 中国：受出口管制影响，国内AI芯片（华为昇腾、寒武纪）需在系统软件上突破，而工作流平台（如百度智能云、阿里云PAI）加速发展。但全球供应链参与度降低。
• 中国台湾：台积电先进制程需求持续，但系统集成趋势对晶圆制造环节影响间接。联发科等设计公司需关注Agent AI的AP需求。
• 韩国：三星在存储（HBM）和代工上有优势，但系统软件能力薄弱。
• 日本：Rapidus在先进封装上布局，但AI云平台建设滞后。
• 欧洲：Nebius为代表的企业在AI云平台创新上取得突破，但产业规模有限。欧盟《AI法案》可能影响工作流合规性。
• 东南亚：成为云数据中心选址热点，但本地芯片设计能力弱。

Investment Perspective

资本市场长期关注系统级价值。GPU热潮后，投资者正寻找下一个增长点——AI工作流平台、可观测性工具、Agent框架等软件公司将有高估值。硬件方面，网络和存储芯片公司受益。地缘政治风险下，多元化供应链也获青睐。

Long-Term Outlook

• 3年内：AI云平台从基础设施转向工作流即服务，大型企业采用Agent工作流。NVIDIA推出更多系统级解决方案。
• 5年内：Agent AI成为主流，token消耗量呈指数增长。芯片需求结构变化：推理芯片、网络芯片占比上升。
• 10年内：AI系统集成可能催生新的芯片架构（如存算一体、可重构计算），软件抽象层进一步下沉。

产业链分析

上游：芯片与设备 Agent AI对计算、存储、网络芯片提出平衡要求。GPU仍是主力，但专注于推理的NPU、LPU逐渐崛起。对3nm/2nm先进制程需求持续，但封装技术（如CoWoS、3D堆叠）对内存带宽至关重要。

中游：云平台与软件栈 AI云服务商（AWS、Azure、GCP、Nebius）成为核心整合者。他们提供从模型库到编排服务的全栈解决方案。工作流化降低企业AI应用门槛，但增加了对平台粘性的依赖。

下游：行业应用 企业用户不必自建AI系统，直接采购工作流服务。差异化则靠私有数据、领域微调和安全合规。这加速AI普及，但也使技术壁垒转移至数据与行业知识。

结论

AI的下一个瓶颈不是算力，而是系统集成与工作流编排能力。这一转变将重塑产业链价值分布：从硬件向软件转移，从单体芯片向系统架构转移。对于芯片企业，仅仅提供高性能计算已不够，必须与云平台深度合作，提供更优的总拥有成本和集成效率。对于投资者，应关注具备系统级解决方案的AI云平台、网络存储芯片以及编排软件。全球竞争格局中，美国仍具先发优势，但欧洲和中国在细分领域存在机会。