资讯
SemiAnalysis:谷歌TPU杀入英伟达腹地,Ironwood每美元性能最高领先B200 50%
📋总体概括
谷歌TPU加速对外开放,SemiAnalysis发布首份TPUv7 Ironwood第三方推理测试:在每用户每秒100 token的交互速度下,Ironwood每百万token推理成本约0.181美元,较B200的0.222美元低约19%,较B300的0.276美元低约34%,每美元性能最高领先B200/B300达50%;若按谷歌内部TCO计算,高并发场景下对B200优势可扩大至76.7%、对B300达130.2%。谷歌同步推进开源PyTorch后端TorchTPU,Anthropic已承诺采购逾百万颗TPU,英伟达推理市场垄断正遭遇首次实质冲击。
⚡关键信息
- ▸Ironwood每百万token推理成本0.181美元,低于B200的0.222美元和B300的0.276美元,分别便宜约19%和34%
- ▸同等条件下Ironwood每美元性能最高领先B200和B300达50%,为SemiAnalysis首份TPUv7第三方测试结果
- ▸高并发场景采用谷歌内部TCO口径,Ironwood对B200每美元性能优势达76.7%,对B300达130.2%
- ▸谷歌将于10月开源TorchTPU原生PyTorch后端,取代局限较多的TorchAX方案,降低开发者迁移门槛
- ▸Anthropic承诺采购逾百万颗TPU,预计2029年用量将超过DeepMind自身,成谷歌最大外部TPU客户
🔥犀利点评
别被「50%」冲昏头——注意这部分数据里有谷歌内部TCO口径的助攻,76.7%和130.2%的夸张数字本质上是甲方自我申报,说服力打折。但即便剔除水分,19%和34%的硬成本优势已足够扎人:推理是价格战战场,成本差就是生死线。英伟达真正的护城河从来不是芯片,而是CUDA生态,所以TorchTPU开源才是这局的关键一子——Anthropic百万颗订单证明生态撬动已经开始。训练阵地英伟达还稳,推理腹地已经失守一角。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文 →