设为首页
收藏本站
淘宝精选
开启辅助访问
登录
注册后绑定Q登陆
手机号登录
手机号码,快捷登录
微信登录
QQ登录
快捷导航
发布信息
搜索
搜索
支持我们
使用96IE来支持论坛
首页
任务
勋章
签到
签到等于每天打卡
导读
邀请码
装机必备的软件、去广告版
装机助手
装机网
精品操作系统下载
免费邀请码
记录
Doing
每日签到
本版
帖子
用户
PCOS技术网
»
首页
›
≡信息与生活≡
›
科技 财经 交通
›
GMI Cloud 发布“ AI 应用构建成本计算器”,宣布降低海 ...
返回列表
发新帖
查看:
1427
|
回复:
0
[软件相关]
GMI Cloud 发布“ AI 应用构建成本计算器”,宣布降低海外 IT 成本超40%
[复制链接]
fudashuai
fudashuai
当前离线
积分
571669
IP卡
狗仔卡
签到天数: 2906 天
连续签到: 47 天
[LV.Master]至尊海神IIIIII
发表于 2025-7-29 22:57
|
北京
|
显示全部楼层
|
阅读模式
新浪科技讯 7月29日晚间消息,今日闭幕的2025世界人工智能大会(展览)上,GMI Cloud 发布自研“ AI 应用构建成本计算器”,宣布通过实时量化不同场景下的算力成本、时间损耗与供应商性价比,可为开发者提供成本规划支持。
典型场景评估显示,使用 GMI Cloud 方案可使海外 IT 成本降低 40% 以上,回本周期缩短至行业平均水平的 1/3。
Token作为AI文本处理的基本单位,其消耗成本直接决定商业可行性。据行业数据显示,GPT-4 Turbo处理单次多步骤Agent任务消耗可达200万Token(成本约2美元),而工程化部署周期普遍被低估60%。
据介绍,GMI Cloud “ AI 应用构建成本计算器”可基于Token数量与单价(区分输入 / 输出), 核算AI应用/AI Agent 构建总花费;结合Token吞吐量(输入 / 输出速度),计算处理总请求的耗时。同时,该工具还能实时对比OpenAI、Anthropic等15家供应商的Token单价,自动标记Inference Engine等低成本替代方案。
此外,GMI Cloud Inference Engine 的底层调用GMI Cloud 全栈能力,可直接调用英伟达 H200、B200芯片,从硬件到软件进行了端到端的优化,极致优化单位时间内的Token吞吐量,确保其具备最佳的推理性能以及最低的成本,最大限度地帮助客户提升大规模工作时的负载速度以及带宽。同时,其让企业以及用户进行快速部署,选择好模型后即刻扩展,几分钟之后就可以启动模型,并用这个模型进行 Serving。(文猛)
PCOS系统下载站:http://zhuangji.wang
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
抢沙发
千斤顶
显身卡
返回列表
发新帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
注册后绑定Q登陆
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页