实体库 · 事件 · 行业信号
Epoch AI 推出推理性能指数 IPI:按 agentic 负载算,GB300 的推理容量是 H100 的约 25 倍,而 FLOP/s 只有 2.5 倍
Epoch AI 推出推理性能指数 IPI:按 agentic 负载算,GB300 的推理容量是 H100 的约 25 倍,而 FLOP/s 只有 2.5 倍(行业信号,2026-11-10):11-09 发布的报告。Epoch 认为用 FLOP/s 衡量推理容量会严重低估真实能力——对推理、尤其是现在的 agentic 负载来说,显存容量与带宽、芯片间互连的带宽与延迟往往比算术吞吐更要紧,于是另建了一套 Inference Performance Index,用四个代表性模型、在每请求 50-400 token/s 的输出速度区间内衡量容量,并显式处理「同时服务多少并发请求」与「单请求多快」之间的权衡。以 GB300 NVL72 为基准 1.0 GB300e:Vera Rubin(VR200)2.18、H200 HGX 0.12;最关键的一条是 GB300 在 agentic 任务上的推理容量约为 H100 的 25 倍,而两者 FLOP/s 只差 2.5 倍。意味着按算力账本做的产能推算,可能系统性低估了这一代硬件的推理供给。
- 类别行业信号 · 事件
- 日期2026-11-10
- 分类独立研究机构 · 在 AI 行业信号流里看这一条 ↗
- 信源Epoch AI
- 链接epoch.ai/publications/inference-performance-index ↗
关系 每条写成一句话:主语 → 宾语,点开看证据
涉及的机构 / 产品 · 1
- Epoch AI 推出推理性能指数 IPI:按 agentic 负载算,GB300 的推理容量是 H100 的约 25 倍,而 FLOP/s 只有 2.5 倍涉及Epoch AI 发布 / 出台方信源:Epoch AI
在 Landscape 的位置 · 1
- Epoch AI 推出推理性能指数 IPI:按 agentic 负载算,GB300 的推理容量是 H100 的约 25 倍,而 FLOP/s 只有 2.5 倍出现在 Landscape 的「AI 行业信号流 · 05 独立研究机构」
出处
- 本站页面:AI 行业信号流(独立研究机构):Epoch AI 推出推理性能指数 IPI:按 agentic 负载算,GB300 的推理容量是 H100 的约 25 倍,而 FLOP/s 只有 2.5 倍
- 媒体报道:信号的原文出处(Epoch AI)