TPU仅需0.181美元,B200为0.222美元,B300则高达0.276美元。
今年4月,黄仁勋在Dwarkesh播客上宣称TPU与Trainium都不敢来跑分。黄仁勋的三次断言在那期播客中,黄仁勋对TPU的战略藐视可以归结为三次断言。若将中位响应时间卡在20秒,TPU成本为0.098美元,B200是0.106美元,B300则飙升至0.132美元。谷歌内部TCO口径第三句,他断定Anthropic只是特例,失去Anthropic的支撑TPU将彻底丧失增长引擎。这项断言目前仅维持了表面上的成立。到2029年它将超越DeepMind成为全球最大的TPU单一用户。但另一半断言正在迅速失效。第一是KVCache页数翻倍,大幅削减首Token延迟。现在,谷歌将Token转移至128Lane的维度,可用KV页从5141暴涨至10283。填平生态护城河的代码级颠覆这次更新最颠覆的地方在于,谷歌只是动了动软件。
本文来自作者[智源瞭望台]投稿,不代表绮畅科技网立场,如若转载,请注明出处:https://www.lorte.cn/zixun/202609/1730.html
评论列表(4条)
我是绮畅科技网的签约作者“智源瞭望台”!
希望本篇文章《谷歌一行代码破局CUDA生态,英伟达技术护城河面临新挑战》能对你有所帮助!
本站[绮畅科技网]内容主要涵盖:教育咨询,知识百科
本文概览:TPU仅需0.181美元,B200为0.222美元,B300则高达0.276美元。