英伟达 Blackwell GPU 成本翻倍,但单 token 推理成本较 Hopper 下降 35 倍

根据 Nvidia 最新博客分析,Blackwell GPU 的每小时成本几乎是 Hopper 代际的两倍,但每个 token 的推理成本却低 35 倍。以 DeepSeek-R1 作为测试模型,Blackwell(GB300 NVL72)按每 GPU 每小时 2.65 美元出租,而 Hopper 为 1.41 美元;但单个 GPU 的吞吐量从 90 跃升至 6,000 每秒 token。这样 65 倍的吞吐量增益使每百万 token 成本从 4.20 美元降至 0.12 美元。

0.12 美元这一数值假设完成了全套软件优化,包括 FP4 低精度推理和多 token 预测(MTP)。如果未启用 MTP,每百万 token 成本约为 2.35 美元,启用后降至 0.11 美元,表明仅该特性就带来了 21 倍的优化效果。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

OpenAI DevDay 2026 将于 9/29 旧金山举办

OpenAI 4 月 29 日官方公告,旗舰开发者大会 DevDay 2026 将于 9 月 29 日在旧金山举行,回归阔别多年的实体大会形式。同时公布的还有一项投稿活动:开发者使用 GPT-5.5 与 Image Gen 打造作品提交,每周由 Codex 从中筛选 2-3 件具创意的提交者,获得 DevDay 免费门票(含跨城机票与饭店费用)。 大会主题:围绕 GPT-5.5 + Image Gen 的开发者生态 本次 DevDay 的核心应用栈显然围绕 GPT-5.5。GPT-5.5 于 4 月 23 日上线、24 日全面开放 API;同 4 月底 GPT-5.4

鏈新聞abmedia41 分钟前

BioMysteryBench:Mythos 解專家无解题 29.6%

Anthropic 4 月 29 日在官方研究公告中发布 BioMysteryBench——一套针对 AI 生物信息分析能力的新评测基准,由真实研究场景中的开放式问题构成。最值得关注的数据是:在人类专家小组尝试后仍无法解出的题目中,Anthropic 旗舰模型 Mythos 解出 29.6%、Opus 4.7 解出 27.0%。 评测设计:可解题与专家无解题双轨 BioMysteryBench 由两种题型组成。第一类是“可解题”——由生物信息研究人员设计、有标准答案可对照的分析任务;第二类是“专家无解题”——由人类专家小组尝试后仍无法找出可信解答的题目,用来测试模型是否能跨越当前领域知识的边界。

鏈新聞abmedia43 分钟前

OpenAI 宣布将在未来几天推出 GPT-5.5-Cyber 网络安全模型

据 Cointelegraph 称,Sam Altman 宣布 OpenAI 将在未来几天推出 GPT-5.5-Cyber,这是一种网络安全模型。该模型将提供给关键网络安全防御者使用,OpenAI 计划与政府机构合作建立可信访问机制,以便

GateNews1小时前

谷歌 DeepMind 首席执行官预测 AGI 将于 2030 年前到来,并给予公司四年准备时间

根据 Sequoia Capital 以 Demis Hassabis 为主角的视频系列,谷歌 DeepMind 的首席执行官预测,人工通用智能(AGI)将在 2030 年到来。Hassabis 是 2024 年诺贝尔化学奖得主,他将这一时间表视为一种严苛的商业现实,这迫使领导者重新思考产品 de

GateNews1小时前

OpenAI 拟作为永续低利润公司运营,签署 20 年电力协议

据 Odaily,OpenAI 首席执行官 Sam Altman 在 Stripe Sessions 上表示,OpenAI 旨在成为一家永续低利润、但规模巨大且增长迅速的基础设施公司,提供类似于“智能电表”的产品,用户可以购买以自动化业务运营,或嵌入到

GateNews1小时前

Forefront Tech 完成 $100M IPO 定价,计划在 Nasdaq 上市

据 ChainCatcher 报道,Forefront Tech Holdings Acquisition Corp 于 4 月 30 日完成 1 亿美元 IPO 定价,计划在纳斯达克上市,股票代码为 FTHAU。募集资金将用于探索区块链、人工智能、金融科技及其他领域的并购机会

GateNews1小时前
评论
0/400
暂无评论