快科技9月11日消息,据SemiAnalysis发布的最新报告,谷歌第七代TPUIronwood每美元推理性能最高领先英伟达B200达50%,对B300领先96%。
今年4月,黄仁勋在播客中公开质疑TPU不敢参加公开跑分,称“TPU不来,Trainium不来”。五个月后,谷歌带着实测数据如约而至。B200每百万token成本0.222美元,B300高达0.276美元。TPU分别便宜19%和34%。若将中位响应时间限制在20秒,TPU成本降至0.098美元。TPU的成本优势并非来自峰值算力。实测中TPU物理吞吐仅领先约5%,但每小时租赁成本远低于GPU,叠加价格差后放大为50%的每美元性能领先。谷歌自去年起开放TPU直接销售,不再只依赖云端租赁。据悉,Anthropic已采购超100万颗TPU,到2029年将超越DeepMind成为全球最大TPU单一用户。
本文来自作者[产业硅说]投稿,不代表绮畅科技网立场,如若转载,请注明出处:https://www.lorte.cn/zixun/202609/1960.html
评论列表(4条)
我是绮畅科技网的签约作者“产业硅说”!
希望本篇文章《谷歌发布TPU实测数据:性能领先英伟达B200达50%》能对你有所帮助!
本站[绮畅科技网]内容主要涵盖:教育咨询,知识百科
本文概览:快科技9月11日消息,据SemiAnalysis发布的最新报告,谷歌第七代TPUIronwood每美元推理性能最高领先英伟达B200达50%,对B300领先96%。