敢和英伟达现场PK的国产GPU，我是服的

金磊 发自 上海 量子位 | 公众号 QbitAI 我愿称之为， 国产芯片 界的 真勇士 。 事情是这样的。 一家国产芯片公司，竟敢把自家的GPU和 英伟达H200 ，直接在现场 真枪实弹 地来了一把 PK 。 而且题目还不是自己出的，是随机挑了几个人、 当场出题 的那种！ 例如 文生图 ，有人出的题目是“一只老虎把月亮踢飞”： 视频地址： https://mp.weixin.qq.com/s/Non20tfUB860KjNQkW3LZQ 结果，这块国产GPU跑赢了！ 它用时仅为 95.6秒 ，而英伟达H200耗时为112秒。 这还没完。 刚才的PK是在云端跑的，而后这家国产芯片公司，又拿出了一台巴掌大的银色小盒子，在 端侧断网 去跟英伟达的机器人大脑 Jetson Thor T5000 硬碰硬。 依旧是现场随机挑人、随机出题，这次的题目是“狮子和老虎单挑，谁会赢？” 视频地址： https://mp.weixin.qq.com/s/Non20tfUB860KjNQkW3LZQ 肉眼可见，这个国产银色小盒子的速度，明显要比Thor T5000快得多。 那么这家国产芯片公司到底是谁？ 不卖关子，它就是 天数智芯 。 刚才云端跑赢H200的，是 天垓300 ；端侧跑赢Thor的，则是 彤央TY1200 。 除此之外，天数智芯还在同一场活动，一道发布了 用AI来开发AI 的 天数智算软件栈 。 熟悉天数智芯的朋友们可能还会记得，今年1月份，在它刚上市敲钟半个月之际，就一口气发布了四款彤央边端产品，当时TY1000实测超过的是英伟达AGX Orin。 同一天，它还亮出一张四代架构路线图，第一站就是 天枢架构 ，目标直指超越Hopper，后面还排着Blackwell和Rubin。 但毕竟当时只是路线图嘛（谁都会画）…… 而9个多月后，天数智芯还真来 交作业 了。 天垓300正是基于天枢架构，这次对标的是Hopper家族的旗舰H200；端侧的对手，也从Orin换成了更强的Thor。 至于为什么云、软件、端三条线一起发，天数智芯的逻辑是这样的： 云端负责生产智能，软件栈负责让适配和优化跑得更快，端侧负责把智能送进工厂、实验室、医院这些真实现场。 在天数智芯看来，三者咬合在一起，才是它口中的 高质量算力 ，即高效率、可预期、可持续。 那么接下来，我们详细地来品鉴一下这场实测~ 天垓300：对标H200，交出实测答卷 先来看下云端的天垓300。 其实它并非第一次亮相，早在今年7月之际，第三方权威机构拿四大主流模型、三类场景，给天垓300做了一轮测试。 在大模型最典型的PD分离部署下，天垓300折算单卡端到端吞吐，是H200的 1.05倍 。 但这里比的不是纸面峰值，是一条推理链路从头跑到尾、实打实吐出来的Token。 按天数智芯的说法，天垓300由此成为国内首个实测性能达到H200水平的通用GPU。 不仅如此，毕竟天垓300定位是通用GPU，所以它得是训练和推理两头都能打的那种。 我们先来看 推理 这一块。 对于现在的大模型来说，长上下文是一道绕不开的坎。天数智芯AI与加速计算负责人 单天逸 在现场打了个比方： 情侣恋爱十周年，女生问男生，这十年里最刻骨铭心的时刻是什么？男生不会把3650天挨个回忆一遍，脑子里蹦出来的，也就那么几个瞬间。 而Attention干的就是这件事，天垓300也专门为此做了定制优化。结果显示，GLM-5.3在64K规模下，MoE吞吐是H200的 1.15倍 ；8K到128K长上下文里，Agent首字延迟比H200低 10%到30% 。 接下来，我们再来看 训练 这一块。 在Qwen3-32B的8卡FP8训练中，天垓300每卡有效吞吐是H100的1.33倍。在现场，单天逸放了一段加速100倍的训练命令行录屏，天垓300那边早早跑完，H100还在一步一步往前挪。 视频地址： https://mp.weixin.qq.com/s/Non20tfUB860KjNQkW3LZQ 在常规训练之外，天垓300还是扛得住强化学习的那种，而这恰恰是当下主力大模型都在用的后训练路线。 按天数智芯的工程测算，1024张卡，约26天就能对一个1T参数、40B激活的MoE模型完成一轮强化学习——差不多正好卡在大模型厂商一个多月一迭代的节奏上。 推理、训练之外，我们再来看看眼下爆火的 Token工厂 。 建一座Token工厂，大约75%到80%的投入都花在设备上。既然设备这笔钱省不下来，那么每一张卡就必须跑得多、跑得稳，Token的单位成本才降得下来。 在“跑得多”这一点上，前面提到的1.05倍已经给出了答案。至于“跑得稳”，则要看步时波动： 满负荷运行时，天垓300的步时波动是 0.43% ，而作为对比的Hopper方案是0.76%。这意味着即