查看: 72|回复: 0

[各种硬件] 天数智芯天垓300真机实测:性能赶超国际主流GPU,超节点有效Token成本直降40%

[复制链接]

签到天数: 2908 天

连续签到: 49 天

[LV.Master]至尊海神IIIIII

发表于 2026-11-4 22:08 |中国| 显示全部楼层 |阅读模式
       新浪科技讯 11月4日晚间消息,近日,天数智芯举办2026媒体开放日活动,首次面向媒体开放真机实测演示了天垓300通用GPU旗舰产品,展示了基于天垓300的AFD分离方案、IXL144超节点方案,以及天数智算软件栈、彤央端侧算力终端产品——彤央TY1200在实测中超越Thor T5000,并预告了标称算力达600T的下一代端侧产品。

  据第三方权威机构今年完成的实测数据,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到某国际顶尖GPU的1.05倍,特定模型和部署条件下整条推理链路的实际输出能力出色。

  目前,强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等国内外主流模型公开采用的核心后训练路线。天垓300同样胜任强化学习训练,据条件性工程估算,以1024张卡对已有预训练基座开展一次强化学习,在40B激活参数的中心情景下,约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。此外,天垓300还高度满足Token工厂对算力的各项实际要求。

  在规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存。据测算,其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out,目标是将域内单次传输延迟由3—5微秒降至1微秒;支持统一内存语义编程;同时支持大EP,将专家权重分散到更多核心。

  硬件性能达到可用区间后,另一道门槛是开发者能否真正用好。

  活动现场,天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次,首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局:基于多年GPU研发、模型适配和性能调优积累,将软件栈、专业工具与工程经验同Agent技术结合,让一线开发者能够围绕场景目标和服务约束,直接调用工具、复用经验、开展优化,加速迈向端到端智能开发。

  “易于使用”方面,天数智算软件栈在模型PD分离部署实测中,环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步,助力开发者更便捷地使用先进推理架构。

  “易于优化”方面,软件栈根据某大模型调优任务实测,工作周期由7天缩短至2小时内;在相同硬件、模型和精度要求下,相关任务运行性能较优化前接近翻倍。

  “易于开发”方面,天数智芯通过Agent与FlyDSL协同,让AI参与代码生成、编译、测试和性能优化。在某主流模型适配与调优实测中,过去10人天完成的工作,现在1人在小时级内就能完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能。

  此外,天数智芯还将云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具,一起带到边端,打造了彤央系列产品。据悉,彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署的需求,“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。

  其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。(文猛)
PCOS系统下载站:http://zhuangji.wang

本版积分规则