设为首页
收藏本站
淘宝精选
开启辅助访问
登录
注册后绑定Q登陆
手机号登录
手机号码,快捷登录
微信登录
QQ登录
快捷导航
发布信息
搜索
搜索
支持我们
使用96IE来支持论坛
首页
任务
勋章
签到
签到等于每天打卡
导读
邀请码
装机必备的软件、去广告版
装机助手
装机网
精品操作系统下载
免费邀请码
记录
Doing
每日签到
本版
帖子
用户
PCOS技术网
»
首页
›
≡信息与生活≡
›
科技 财经 交通
›
天数智芯天垓300真机实测:性能赶超国际主流GPU,超节点 ...
返回列表
发新帖
查看:
71
|
回复:
0
[各种硬件]
天数智芯天垓300真机实测:性能赶超国际主流GPU,超节点有效Token成本直降40%
[复制链接]
fudashuai
fudashuai
当前离线
积分
612217
IP卡
狗仔卡
签到天数: 2908 天
连续签到: 49 天
[LV.Master]至尊海神IIIIII
发表于 2026-11-4 22:08
|
中国
|
显示全部楼层
|
阅读模式
新浪科技讯 11月4日晚间消息,近日,天数智芯举办2026媒体开放日活动,首次面向媒体开放真机实测演示了天垓300通用GPU旗舰产品,展示了基于天垓300的AFD分离方案、IXL144超节点方案,以及天数智算软件栈、彤央端侧算力终端产品——彤央TY1200在实测中超越Thor T5000,并预告了标称算力达600T的下一代端侧产品。
据第三方权威机构今年完成的实测数据,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到某国际顶尖GPU的1.05倍,特定模型和部署条件下整条推理链路的实际输出能力出色。
目前,强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等国内外主流模型公开采用的核心后训练路线。天垓300同样胜任强化学习训练,据条件性工程估算,以1024张卡对已有预训练基座开展一次强化学习,在40B激活参数的中心情景下,约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。此外,天垓300还高度满足Token工厂对算力的各项实际要求。
在规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存。据测算,其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out,目标是将域内单次传输延迟由3—5微秒降至1微秒;支持统一内存语义编程;同时支持大EP,将专家权重分散到更多核心。
硬件性能达到可用区间后,另一道门槛是开发者能否真正用好。
活动现场,天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次,首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局:基于多年GPU研发、模型适配和性能调优积累,将软件栈、专业工具与工程经验同Agent技术结合,让一线开发者能够围绕场景目标和服务约束,直接调用工具、复用经验、开展优化,加速迈向端到端智能开发。
“易于使用”方面,天数智算软件栈在模型PD分离部署实测中,环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步,助力开发者更便捷地使用先进推理架构。
“易于优化”方面,软件栈根据某大模型调优任务实测,工作周期由7天缩短至2小时内;在相同硬件、模型和精度要求下,相关任务运行性能较优化前接近翻倍。
“易于开发”方面,天数智芯通过Agent与FlyDSL协同,让AI参与代码生成、编译、测试和性能优化。在某主流模型适配与调优实测中,过去10人天完成的工作,现在1人在小时级内就能完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能。
此外,天数智芯还将云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具,一起带到边端,打造了彤央系列产品。据悉,彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署的需求,“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。
其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。(文猛)
PCOS系统下载站:http://zhuangji.wang
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
抢沙发
千斤顶
显身卡
返回列表
发新帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
注册后绑定Q登陆
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页