海外算力ASIC需求变化更新
  蒋翔俊 2024年08月01日 9171 6
海外算力 ASIC:需求或提速
分析师观点更新:全球 AI 算力需求,特别是海外产业链,自四月底五月初开始推荐。这并
非仅基于资本开支数据,而是观察到两个关键变化:一个已被市场看到并交易,另一个则是预判且尚未被市场充分交易。

变化一:已观察到的推理需求加速(市场已部分交易)

四月底五月初美股巨头季报显示,token 量(尤其是三月份)边际变化显著。谷歌 5月 20 日 IO 大会进一步确认了 to C 端 token 量的加速增长(微软季报已显示 to B 端token 量加速)。

这解释了为何市场预期的微软和 Meta 资本开支削减并未发生:推理需求的增长填补了潜在缺口。例如,微软砍掉的是面向 OpenAI 训练的数据中心,而推理需求补位。

推理需求的加速无需等待爆款应用出现,其增长态势清晰可见,且与 AI 商业模式的闭环逐渐清晰有关。市场对此变化的持续性和规模可能仍低估。

变化二:预判的训练需求复苏(市场尚未充分交易)

训练需求一直存在,但此前受限于供给(如英伟达 GB 系列问题)。

预计今年下半年,OpenAI 和 xAI 等超大集群所需的 BB 系列芯片将逐步交付,满足积压需求,训练量将开始回升。

这仅是训练需求复苏的起点。一旦 OpenAI/xAI 通过大集群推出下一代模型,第二梯队的公司(如谷歌、亚马逊)可能跟进。目前这些公司训练需求处于待定状态,但一旦领头羊有进展,其需求可能迅速释放。

市场(A 股和美股)目前对此预判尚未交易,因需看到数据(美股)或认识不足(A股)。

结论:下半年需求预期共振向上

上半年训练和推理需求预期共振向下,下半年则有望共振向上。

判断训练需求无需等待爆款模型,推理需求无需等待爆款应用。应更早关注 token量(应用端)和研究模型演化格局(模型端),避免在信息普及后错过行情。

聚焦推理与 ASIC 更新

本次更新围绕推理需求,重点讨论 ASIC 产业链。

提及即将举行的 Marvell AI Day,预期其将对 ASIC、光互联等环节的未来趋势做出判断,值得关注。后续将整理分享其观点。

海外云厂商自研 AI 芯片进展

核心驱动: AI 推理需求增长、算力需求增加、成本控制诉求、降低对英伟达依赖。

厂商进展:


谷歌:自研芯片(TPU)领先。2024年4月推出TPU v7(3nm制程),专为大模型推理设计。性能(如FP8达4614TOPS,超B200)、能效(TPUv6的2倍)、互联带(1.2TB/s)、HBM配置(192GB)显著提升。23年出货超百万颗,2024年约160万颗(TPU v5e/v5P),2025 年预期超 200 万颗(TPU v6 为主力),2026 年预期超 300 万颗。

亚马逊:增速快。AI 芯片分推理(Inferentia)和训练(Trainium)两条线。2024 年底推出第三代 Trainium 芯片(性能提升)。客户广泛(如苹果、Anthropic)。2024 年出货约 40 万颗,2025 年预期约 160 万颗(Trainium2/2.5为主力),2026 年预期超 200 万颗(接近 250 万颗,含 Trainium3)。

微软:起步稍晚。第一代 AI 芯片(Maia 100)性能反馈一般,出货量小(2025年预计小几万片)。第二代产品(Maia 200,含与 Marvell 合作版本)预计2026 年推出,性能提升,预期出货量达 50 万颗。

Meta:起步稍晚但追赶激进。自研芯片(MTIA)主要用于推理及部分训练。近期大幅上修出货预期:2025 年小几十万颗(MTIA v1),2026 年预期达百万颗级别(MTIA v2/v3)。合作方主要为博通。

其他厂商:OpenAI、xAI、Apple 等也在推进自研芯片,预计 2026 年下半年开始放量,初期规模较小(各小几十万颗)。

芯片设计服务厂商格局

竞争加剧: 市场参与者增多(博通、Marvell、创意电子、Alphawave、联发科等),竞争激烈。

合作情况:

亚马逊:25年主力合作方为Marvell。Trainium3主要合作方为 Alphawave,但 Marvell 也参与部分型号(如 Trainium2 Ultra/Trainium3Lite)。下一代(Trainium4)合作方待定(可能延续多供应商策略)。

谷歌:长期主要合作方为博通(TPU v1-v6)。TPU v7 部分型号引入联发科(v7e),TPU v7P 及后续(v8)预计仍主要与博通合作。

Meta:主要合作方为博通(MTIA 系列)。

微软:第一代合作方为创意电子。第二代(Maia 200)采用双路径:部分自研+创意电子后端;部分全委托 Marvell。预计 Marvell 方案占比较大。下一代(Maia 300)合作格局可能更复杂(博通、联发科等可能参与竞争)。

总体趋势: 尽管竞争导致份额可能分散,但 ASIC 芯片总量快速增长,头部设计服务厂商(如博通、Marvell)通过拓展新客户(如苹果)仍能获得增长。

对 Marvell AI Day 的预期

可能涉及光模块/互联技术演进(如 3.2T 之后形态)、CPU 进展、行业趋势观点。

在 ASIC 业务方面,可能澄清与亚马逊(Trainium3)、微软(Maia 200)等项目的合作情况。

可能更新 AI 相关收入指引(此前预期 2024 年 15 亿、2025 年 25 亿美元)。

可能更新对 ASIC 整体市场空间的预测(此前 2023 年 60-70 亿,2028 年 400 亿+,低于博通给出的 600-900 亿预期)。

可能提供连接技术迭代路径及市场空间的新指引。

image.png

 

 


 

最后一次编辑于 2024年08月01日 462

钱杰岩

短期可能会有调整,保持谨慎。

2025-06-20 05:21:04      回复

三茂奇

市场情绪偏向谨慎。

2025-06-14 10:10:25      回复

蒋翔俊

市场竞争力强,品牌效应显著。

2025-01-27 13:12:30      回复

吴顺

有政策支持,行业发展提速。

2024-12-28 04:36:24      回复

周翔

市场需求旺盛,订单持续增长。

2024-09-23 21:47:15      回复

三茂奇

要关注竞争格局,分析对手动向。

2024-08-02 18:37:25      回复