AI inferens sedang mengembangkan persaingan semikonduktor daripada GPU kepada cip khusus dan penempatan pusat data: selepas SambaNova, Groq dan Cerebras, siapa yang dapat memperoleh tiket masuk seterusnya?

AI inference sedang mengembangkan persaingan semikonduktor daripada GPU kepada cip khusus dan penggunaan pusat data

Tumpuan pasaran pengkomputeran AI sedang beralih daripada latihan (training) kepada inferens (inference). TechCrunch melaporkan bahawa sebuah neocloud inference baharu——General Compute——telah melengkapkan pusingan seed sebanyak 15 juta dolar pada penilaian pasca-pembiayaan 60 juta dolar, dan bertaruh pada cip inferens SambaNova, SN50, dengan rancangan untuk menyediakan perkhidmatan pengkomputeran melalui penyejukan udara, penggunaan kuasa yang lebih rendah, serta keupayaan untuk terus digunakan dalam pusat data sedia ada. Saiz pembiayaan kes ini sendiri tidak besar, tetapi ia mendedahkan isyarat industri yang lebih penting: pengagihan nilai dalam rantaian industri AI sedang beralih daripada “siapa yang memiliki GPU paling berkuasa” kepada “siapa yang boleh menggunakan cip yang lebih sesuai untuk menghantar kuasa pengkomputeran kepada pelanggan dengan lebih pantas dan lebih murah”.

Ini bermakna, persaingan masa depan bukan sahaja berlaku dalam pasaran GPU, tetapi juga dalam keseluruhan rantaian yang merangkumi cip inferens khusus, neocloud, tenaga dan seni bina penyejukan pusat data, serta pembungkusan lanjutan dan bekalan HBM. Bagi industri semikonduktor, struktur permintaan AI chips sedang berubah; bagi pasaran foundry, cara penggunaan kapasiti proses lanjutan dan pembungkusan juga akan berubah; bagi rantaian bekalan, keperluan penyejukan udara dan cecair, pengubahsuaian bilik pelayan, serta ketumpatan kuasa akan mempengaruhi struktur tempahan bagi peralatan huluan, bahan, dan kilang ujian serta pembungkusan.

Dengan kata lain, berita pembiayaan TechCrunch ini bukan sekadar kisah sebuah syarikat permulaan tunggal, tetapi satu jendela untuk memerhati bagaimana perbelanjaan infrastruktur AI sedang membentuk semula rantaian bekalan semikonduktor.

Latar belakang: daripada era latihan kepada era inferens

Dalam dua tahun kebelakangan ini, naratif utama perbelanjaan modal AI tertumpu pada kluster latihan: peningkatan skala parameter model besar mendorong ketegangan yang melampau terhadap GPU NVIDIA, HBM, rangkaian berkelajuan tinggi, dan kapasiti pembungkusan lanjutan. Namun, apabila model-model tersebut semakin memasuki fasa pengkomersialan, inferens mula menjadi pasaran jangka panjang yang lebih besar. Inferens berbeza daripada latihan, kerana ia lebih menekankan kos per token, kelewatan, daya pemprosesan dan keupayaan serentak, bukannya semata-mata prestasi titik terapung puncak.

Ini正是 sebab mengapa cip inferens khusus kembali mendapat perhatian.Inilah sebabnya cip inferens khusus kembali mendapat perhatian. Dalam laporan TechCrunch, disebut bahawa General Compute memilih SambaNova, bukannya terus bergantung sepenuhnya pada GPU, salah satu sebabnya ialah seni binanya lebih menekankan fleksibiliti dan keupayaan memori, sesuai untuk mengekalkan konteks semasa proses inferens. Laporan itu juga menyatakan bahawa cip baharu SambaNova menyasarkan 600 hingga 700 token sesaat, manakala GPU sekitar 250 token. Perbandingan seperti ini walaupun datang daripada kenyataan terbuka syarikat dan pengasas, masih memerlukan pengesahan pasaran, tetapi ia menyampaikan hala tuju yang jelas: apabila AI beralih daripada model “generatif” kepada aliran kerja “agent-to-agent”, kelajuan, kos dan kaedah penyebaran akan menentukan nilai cip.

Analisis Rantaian Industri

Hulu: perubahan struktur permintaan bagi proses, HBM, bahan dan peralatan

Jika cip inferens terus berpecah mengikut kepakaran, bahagian pembuatan wafer akan menanggung dua jenis tekanan serentak: satu ialah permintaan berterusan GPU/pemecut AI terhadap proses lanjutan, dan satu lagi ialah reka bentuk berintegrasi tinggi yang digunakan oleh cip khusus untuk mendapatkan kecekapan kuasa. Kedua-dua jenis cip ini bergantung pada proses lanjutan, tetapi keperluan terhadap kapasiti, pembungkusan, ujian dan rentak bekalan adalah tidak sama.

• Foundry: TSMC masih merupakan platform pembuatan lanjutan paling penting; 3nm dan 5nm masih merupakan nod penting bagi cip AI dan reka bentuk gabungan CPU/GPU kelas tinggi. Samsung Foundry dan Intel Foundry pula sedang bersaing untuk pesanan foundry berkaitan AI pada pusingan seterusnya, terutamanya projek yang memerlukan penyesuaian pelanggan yang lebih pantas dan penyelarasan pembungkusan yang lebih kompleks.
• Pembungkusan lanjutan: Sumbatan bagi cip AI kini bukan lagi hanya pada kepadatan transistor, tetapi juga pada sambungan chip-to-chip, lebar jalur pintasan HBM dan hasil pembungkusan. Jika cip inferens beralih daripada “satu GPU besar” kepada “modul pengkomputeran khusus yang lebih teragih”, permintaan terhadap pembungkusan lanjutan akan menjadi lebih pelbagai, dan peranan OSAT seperti ASE dan Amkor akan menjadi lebih penting.
• Peralatan: Permintaan jangka panjang untuk ASML, Applied Materials, Lam Research dan KLA masih berkait dengan pengembangan kapasiti proses lanjutan dan pembungkusan lanjutan. Selagi AI mendorong pelaburan 3nm/2nm dan pembungkusan seterusnya, perbelanjaan modal peralatan tidak akan menurun dengan ketara.
• Bahan: Reka bentuk yang lebih cekap tenaga akan terus meningkatkan keperluan terhadap wafer silikon premium, photoresist, gas khas dan bahan pembungkusan lanjutan. Ketahanan rantaian bekalan akan lebih penting berbanding harga semata-mata.

Pertengahan: reka bentuk cip dan infrastruktur awan mula berpecah tugas semula

Pada masa lalu, GPU hampir memonopoli naratif pengembangan latihan AI, tetapi pasaran inferens lebih mudah mengalami pengelasan:1. GPU umum terus承担兼容iti perisian yang paling luas dan tugasan latihan; 2. ASIC/cip inferens khusus merebut model tertentu, latensi tertentu dan senario kos; 3. neocloud melalui penyewaan kuasa pengiraan, penyatuan pusat data dan pengenalan pelanggan, membungkus keupayaan cip secara langsung sebagai perkhidmatan.

Ini akan memberi kesan berbeza kepada laluan NVIDIA, AMD, Google TPU, Amazon Trainium dan lain-lain. NVIDIA masih memiliki ekosistem paling kukuh, tetapi pelanggan pada peringkat inferens akan lebih memberi tumpuan kepada kos per token, penggunaan tenaga, fleksibiliti pelaksanaan dan kestabilan bekalan. AMD juga berpeluang memperluas kehadirannya dalam sebahagian pelanggan awan dan penyebaran AI perusahaan; manakala cip dibangunkan sendiri oleh hyperscaler, seperti TPU dan Trainium, jika dapat mencapai TCO yang lebih rendah pada beban kerja inferens, penerimaan pasaran akan terus meningkat.

Hiliran: corak penerapan pusat data sedang berubah

Ciri utama General Compute bukan sekadar menggunakan cip SambaNova, tetapi penekanannya pada penyejukan udara, penggunaan kuasa rendah dan boleh digunakan dalam pusat data sedia ada. Ini sangat penting. Pusat data AI sebelum ini kebanyakannya berputar sekitar penyejukan cecair, bekalan kuasa berketumpatan tinggi dan rak yang direka khusus; tetapi jika cip inferens dapat menurunkan halangan pelesapan haba, ia akan secara ketara memperluas senario yang boleh digunakan, malah membolehkan sebahagian pusat data terbiar, pusat data tepi dan kemudahan colo lama memperoleh semula nilai guna.

Ini bermakna bagi infrastruktur awan dan pengendali pusat data: daya tarikan masa depan mungkin bukan sekadar “lebih banyak kuasa pengiraan”, tetapi “kuasa pengiraan yang lebih mudah dilancarkan”.

Kesan Teknologi

1. Pengoptimuman inferens dan bukan semata-mata kuasa puncak

Nilai cip inferens bukan terletak pada prestasi maksimum titik tunggal, tetapi pada daya pemprosesan berterusan, hierarki memori dan padanan dengan set perisian. Seni bina seperti SambaNova menekankan akses memori yang lebih fleksibel dan pemeliharaan konteks, menunjukkan industri sedang beralih daripada “menimbun kuasa pengiraan” kepada “memadankan beban kerja inferens”.

2. Pembungkusan lanjutan masih merupakan medan pertempuran teras

Walaupun sesetengah cip inferens tidak mengejar penggunaan kuasa reka bentuk terma yang paling ekstrem, pengkomputeran AI masih sangat bergantung pada chiplet, HBM, interposer dan interkoneksi berketumpatan tinggi. Dalam jangka panjang, pembungkusan lanjutan bukan produk sampingan cip latihan, tetapi sebahagian daripada daya saing cip AI.

3. Penyejukan udara/kuasa rendah mungkin membuka pasaran baharu

Jika sejenis cip AI boleh digunakan dengan keperluan penyejukan dan pengubahsuaian bekalan kuasa yang lebih rendah, ia akan secara langsung mempengaruhi kelajuan pengembangan pusat data. Bagi pelanggan, ini bermakna tempoh penghantaran yang lebih singkat; bagi rantaian bekalan, ini bermakna permintaan tambahan terhadap infrastruktur penyejukan cecair mungkin dialihkan, tetapi tidak hilang, sebaliknya diserap oleh kluster latihan berketumpatan lebih tinggi dan awan skala besar.

Kesan Rantaian Bekalan

Siapa yang mendapat manfaat?- Pengeluar cip khusus: Senario inferens telah memperluas ruang reka bentuk di luar GPU. - Pembekal pembungkusan lanjutan: Lebih banyak pelayan AI dan lebih banyak gabungan cip heterogen bermakna kerumitan pembungkusan yang lebih tinggi. - Pengendali pusat data dan colo: Jika cip inferens generasi baharu lebih mudah digunakan, aset pusat data sedia ada boleh dinilai semula. - Pembekal peralatan dan bahan semikonduktor: Pelaburan dalam proses lanjutan dan pembungkusan yang dipacu AI masih menyokong pesanan jangka panjang.

Siapa yang menghadapi risiko?

• Rantaian yang bergantung sepenuhnya pada GPU: Jika beban kerja inferens berpecah, kadar pertumbuhan sesetengah permintaan GPU mungkin lebih rendah daripada jangkaan puncak latihan.
• Penyelesaian pusat data yang sangat bergantung pada penyejukan cecair: Jika pasaran cenderung kepada nod inferens berkuasa rendah, ekonomi bagi sesetengah laluan pengubahsuaian aset berat akan menurun.
• ASIC yang kekurangan ekosistem perisian: Cip khusus, jika tidak mempunyai cukup pembangun dan keserasian model, mudah terpinggir dalam pasaran inferens.

Landskap Persaingan

Dari segi landskap persaingan, pasaran pengkomputeran AI sedang menjadi “pasaran berlapis”, bukannya pasaran monopoli GPU tunggal.

• NVIDIA masih merupakan penentu harga teras, khususnya mempunyai kelebihan ekosistem dalam latihan dan inferens tahap tinggi.
• Groq, Cerebras, SambaNova mewakili pelbagai bentuk pengkhususan: yang pertama menekankan inferens latensi rendah, yang lain menekankan pemprosesan selari berskala besar dan inovasi seni bina peringkat sistem, manakala SambaNova pula bertaruh pada memori yang lebih fleksibel dan kecekapan inferens.
• Cip buatan sendiri oleh gergasi awan akan terus menawan pasaran inferens yang diseragamkan, kerana mereka paling memahami beban kerja mereka sendiri.

Oleh itu, perubahan bahagian pasaran masa depan mungkin bukan ditunjukkan melalui “siapa menggantikan NVIDIA”, tetapi lebih kepada: bahagian NVIDIA dalam pasaran keseluruhan kekal sangat tinggi, namun bahagian cip khusus dalam segmen inferens terus meningkat.

Implikasi Serantau

Amerika Syarikat

Amerika Syarikat masih menguasai reka bentuk cip AI, platform awan, ekosistem perisian dan penentuan harga pasaran modal. Kemunculan neocloud seperti General Compute menunjukkan bahawa inovasi dalam pasaran AS bukan sahaja berlaku di penyedia awan hiper-skala, tetapi juga pada penyedia perkhidmatan menegak yang dibina di sekitar seni bina cip tertentu.

Taiwan

Taiwan terus memegang kedudukan hab dalam proses lanjutan dan pembungkusan. Selagi pesanan berkaitan AI terus tertumpu pada 3nm/2nm dan pembungkusan lanjutan, Taiwan masih menjadi salah satu nod pembuatan paling penting dalam rantaian bekalan global.

Korea Selatan

Korea Selatan masih merupakan salah satu hulu teras AI dalam rantaian bekalan DRAM/HBM dan storan. Pengembangan pasaran inferens tidak akan melemahkan kepentingan HBM, sebaliknya akan menjadikan lebih banyak cip AI memerlukan memori lebar jalur tinggi.

Jepun### Jepun

Jepun kekal penting dalam bahan, bahan kimia, dan komponen peralatan. Peningkatan cip AI akan terus mendorong permintaan terhadap bahan berketulenan tinggi dan komponen ketepatan.

Eropah

Pembolehubah terbesar di Eropah datang daripada segmen peralatan, khususnya ekosistem EUV yang melibatkan ASML. Selagi proses pembuatan maju dan pembungkusan terus bergerak ke hadapan, kedudukan strategik Eropah dalam peralatan kritikal tidak akan berubah.

China dan Asia Tenggara

Pasaran China masih mempunyai skala permintaan dalam pelaksanaan inferens AI, tetapi sekatan eksport akan terus menjejaskan akses kepada cip dan peralatan mewah. Asia Tenggara pula mungkin terus menyerap sebahagian permintaan pembungkusan dan ujian, pemasangan, serta limpahan permintaan pusat data, menjadi kawasan yang mendapat manfaat daripada penyebaran rantaian bekalan.

Perspektif Pelaburan

Sebab pasaran modal memberi perhatian kepada syarikat-syarikat seperti ini bukan sahaja kerana pertumbuhan permintaan AI, tetapi kerana infrastruktur AI sedang membentuk kumpulan keuntungan baharu:

1. Perkhidmatan pengkomputeran beralih daripada “beli GPU” kepada “jual hasil”； 2. Apabila cip khusus digabungkan dengan penggunaan awan, ia mungkin membentuk struktur margin kasar yang lebih tinggi； 3. Logik penilaian aset pusat data mula beralih daripada bilik pelayan umum kepada infrastruktur AI berasaskan senario。

Bagi pelabur, persoalan yang benar-benar penting bukanlah “adakah Cerebras yang seterusnya akan muncul”, tetapi: seni bina mana yang boleh membina kekangan perisian, kestabilan rantaian bekalan, dan kesetiaan pelanggan yang mencukupi dalam era inferens.

Tinjauan Jangka Panjang

3 tahun akan datang: Beban kerja inferens berkembang pesat, GPU masih mendominasi, tetapi cip inferens khusus dan neocloud akan memperoleh lebih ramai pelanggan percubaan.

5 tahun akan datang: Rantaian industri AI mungkin menunjukkan stratifikasi yang lebih jelas, dengan latihan, inferens, dan penggunaan di pinggir masing-masing sepadan dengan cip dan seni bina pusat data yang berbeza.

10 tahun akan datang: Jika AI berasaskan agen menjadi arus perdana, kos inferens akan menjadi pemboleh ubah persaingan teras, dan reka bentuk cip serta infrastruktur akan dibentuk semula berdasarkan “kos per hasil unit” dan bukannya “prestasi puncak”.

Kesimpulan

Kerjasama antara General Compute dan SambaNova, secara zahirnya ialah satu pusingan pembiayaan awal dan pengenalan cip baharu, tetapi pada hakikatnya mencerminkan satu perubahan struktur dalam rantaian industri AI: GPU masih penting, tetapi bukan lagi satu-satunya jawapan; proses pembuatan maju masih penting, tetapi pembungkusan dan penggunaan kini sama penting; pusat data masih penting, tetapi keupayaan untuk melaksanakannya dengan pantas dalam kemudahan sedia ada sedang menjadi ambang baharu.Bagi industri semikonduktor, penilaian teras terhadap trend ini ialah: persaingan AI chips telah beralih daripada pertandingan kuasa pengkomputeran tunggal kepada persaingan sistem “arkitektur cip + pembungkusan + penempatan bilik server + ekosistem perisian”. Siapa yang mampu menurunkan kos inferens dengan lebih rendah, memendekkan tempoh penempatan, dan menjadikan penyambungan pelanggan lebih lancar, maka dialah yang lebih berkemungkinan meraih bahagian yang lebih besar dalam pusingan seterusnya AI infrastructure spending.

---

Source URL

• https://techcrunch.com/2026/05/28/has-the-hunt-for-ai-compute-uncovered-the-next-cerebras/