开云官网切尔西赞助商“智能体正在慢慢替代东谈主类的部单干作-开云官网kaiyun切尔西赞助商 (中国)官方网站 登录入口


记者 叶心冉
TPU赢得的慈祥度肉眼可视力在攀升。
畴昔一个月,围绕谷歌TPU的音讯接连束缚。4月底,谷歌发布了第八代TPU,初度将磨真金不怕火和推理拆分为两款寂然的芯片;紧接着,市集上接踵传出谷歌向英特尔下达大领域采购订单、谷歌拟与三星开发新一代TPU的音讯。不外,谷歌方濒临此均未作出公开回复。
但不错预料的一个趋势是,跟着谷歌TPU的大幅入局,畴昔几年行动AI算力代名词的GPU,不再是独一的礼聘。当算力需求从磨真金不怕火转向推理期间,TPU的上风开动突显,从畴昔的“副角”更加有站上主舞台之势。
GPU和TPU是两种不同的芯片品类。GPU出生已有二十多年,全称是Graphics Processing Unit(图形搞定器),时间相对熟悉,代表公司有英伟达、AMD。TPU则是谷歌从2015年起成心为AI规划的新品类,它的全称是Tensor Processing Unit(张量搞定器),专攻深度学习所需的矩阵运算。
集群计较需求增长
TPU为安在此时成为焦点?先要看市集需求正在发生什么变化。
国度数据局发布的《宇宙数据资源探访叙述(2025年)》炫耀,2025年,中国AI推理数据量初度跳跃磨真金不怕火数据量。
TrendForce集邦商榷的数据预测,北好意思五大云处事商2026年AI磨真金不怕火算力瞻望增长56%,而推理算力将暴增122%,后者增速是前者的两倍以上。IDC预测,到2029年中国市集推理算力占比将接近大致。
推理正缓缓成为算力需求的主场,而这也在为TPU创造契机。
当先,模子越来越大,单颗芯片无法相沿,必须依靠多颗芯片的集群协同完成推理任务,而TPU在集群效用上有先天上风。
“智能体正在慢慢替代东谈主类的部单干作,其内容是用写步伐的才略截止电脑。只好当模子裕如大时,才略完成步伐员能作念的事。如今的模子参数从亿级已达到万亿级别,单颗芯片无法承载完满推理任务,必须依靠几十以致上百颗芯片互联集群协同运算。”中昊芯英首创东谈主及CEO杨龚轶凡说。
中昊芯英是一家聚焦TPU芯须臾间研发的企业,杨龚轶凡暗示,GPU架构所以单卡通用算力和软件生态见长,而TPU则是在大领域集群的通讯与协同效用上有上风。
一位前谷歌TPU工程师在一档视频节目中先容,GPU单机里面依靠NVLink、板载NVSwitch结束多卡互联,跨机架大领域集群还需稀薄采购交换机、光模块搭建高速网罗,配套硬件是一笔大额基建开支;而TPU机柜内芯片可径直互通,仅在跨机柜扩张时使用自研光电路交换机,无需多数目采购商用高速交换斥地,在同等集群通讯性能下,举座部署硬件资本更低。
其次,推理阶段对性价比的敏锐度远高于磨真金不怕火。当Token奢华呈指数级暴增,单元算力资本也成为了更受嗜好的主义。从架构上看,TPU是专用芯片,剔除了GPU的图形渲染、通用计较等功能,聚焦于深度学习矩阵运算。杨龚轶凡指出,谷歌TPU在发布时,对比同等出产工艺的GPU,有3到5倍的性能栽培。
细分场景里的礼聘
什么场景下GPU更符合,什么场景下TPU更优?
这需要回到芯片规划的原点。
杨龚轶凡说,GPU最早是为了在电脑屏幕上炫耀传神的3D游戏画面而规划的。它要把三维物体从各个角度算成二维画面,还要算后光、激情,让画面裕如确切。这就导致GPU里面塞了上万个计较中枢,像一个大工场里有一万名工东谈主同期干活。优点是并发才略强,搞定图像和矩阵运算畸形快。但谬误是,一朝某个工东谈主算错了,你压根没法在一万名工东谈主里快速找到是谁出了问题。
而AI深度学习的计较形式皆备不同。深度学习模子是一层一层往下计较的,每一层里面不错高并发,但层与层之间有先后规章。这种形式不需要GPU那么复杂的调试和通用才略。于是,TPU这类成心为AI规划的芯片应时而生,只聚焦深度学习最常用的运算。
这就好比,从之前要同期养息一万个工东谈主,变成只需要养息一千个按固定活水线职责的工东谈主,截止逻辑肤浅得多。
基于这种架构互异,杨龚轶凡预测,翌日AI芯片市集将变成“442”神情:40%是极致性价比的纯ASIC(专用集成电路)芯片,只可跑固定一两个模子的推理,性价比极致;40%是可编程的DSA(领域专用架构)芯片,比如TPU,支捏深度学习网罗的算法,芯片应用率不如ASIC,但比GPU强许多;20%是通用GPU,留给还在快速变化的新算法和接头场景。
不外,这并不料味着TPU对GPU是替代关连,而是要看具体场景的适配。
在杨龚轶凡看来,20%的GPU市鸠合弥远存在。原因在于,AI领域的新算法、新标的还在束缚涌现,接头东谈主员需要一个通用、生动的平台来快速考据主意。CUDA生态(英伟达围绕GPU硬件打造的一系列软件和器具链)经由20年打磨,熟悉度高,当新的计较场景出刻下,GPU仍然是首选。
而TPU的上风在于性价比和生态建造资本。杨龚轶凡例如证据,TPU的规划想路是让路发者“只管开车,无用修车”。它的硬件领导专为AI计较优化,同期适配PyTorch这类主流框架。PyTorch就像一个AI“乐高器具箱”,开发者用熟悉的“积木”搭模子,剩下的交给TPU编译器自动优化,无用为了迁就硬件去学一套新编程话语。
比拟之下,CUDA更像一套“修车器具”,开发者必须懂“发动机旨趣”才略玩得转,这套器具是行业蕴蓄了十多年的效用。TPU则是依托现存熟悉AI框架,大幅裁减了软件适配门槛,这亦然其性价比上风的伏击着手。
当下开云官网切尔西赞助商,AI Agents慢慢进化为人人社会出产力的中枢基座,带动Token奢华量指数级攀升和“Token经济”期间的驾临。当Token奢华呈指数级增长,芯片的应用率、性价比成为更加伏击的比拼项,TPU迎来新的契机,开动成为AI芯片赛谈上除GPU除外的“另一个选项”。
