资讯动态

  • 首页 资讯动态 国产AI芯片天垓300实测表现超越NVIDIA H200

国产AI芯片天垓300实测表现超越NVIDIA H200

2026-10-30

在10月28日的媒体开放日活动上,天数智芯首次展示了其新一代AI芯片天垓300的实际性能。此次展示中,天垓300在与NVIDIA的H200进行一系列对比测试中展现出了更为出色的表现,涵盖了GLM-5.3等大型语言模型和文生图、文生视频等多种应用场景。在使用Qwen3-32B模型进行的训练测试中,天垓300每块卡的有效吞吐量达到H100的1.33倍。天垓300在今年七月的世界人工智能大会上发布,采用先进的天枢架构,配备新型的Tensor Core,拥有144GB的显存,并原生支持多种计算模式,同时兼容多种数据精度,具备高效的片间互联能力。

根据第三方机构在七月的实测数据,天垓300在大模型的PD分离部署下,单卡端到端吞吐量达到了H200的1.05倍,成为国内首个在实际测试中性能达到H200水平的通用GPU。此外,天数智芯性能实验室的测试进一步覆盖了多个典型业务场景:在64K长上下文中,天垓300的Attention性能为H200的1.05倍;在GLM-5.3模型64K规模下,实现同等用户体验的同时,MoE吞吐量为H200的1.15倍;在8K至128K长上下文场景下,Agent的首字延迟比H200降低了10%至30%;多模态生成推理吞吐量相比H200提升了2%至5%;在在线推荐等业务中,推理吞吐量提升了21%,轻量计算延迟则减少了26%。

在交付能力方面,天垓300已经形成了包括加速卡、单机8卡服务器以及超节点的完整系统方案。其中,天垓300 IXL144超节点在单个标准机柜内可集成144颗GPU,总显存达到约10.1TB,并且在每百万有效Token的成本上较国际主流方案节省约40%。 乐玩lewin-乐玩国际