实体库 · 模型
H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B
H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B:模型 · 决策模型(这几周新出现的一类);2026-11-01 · 开放权重 · H2O Model Non-Commercial Licence v1.1;实体库里有 1 条带证据的关系(1 条由它指出,0 条指向它)。
- 发布日2026-11-01
- 可得性开放权重
- 许可H2O Model Non-Commercial Licence v1.1(仅限非商用、非生产使用);Bolt-74B 的 NVIDIA 基座另按 OpenMDW 1.1。不是 OSI 开源
- 规模 / 类型E4B:Google gemma-4-E4B-it 的微调,HF 张量合计 7.94B(BF16),上下文 131,072 token,单卡至少约 44GB 显存。Bolt-74B:NVIDIA Nemotron-3.5-Bolt-74B-A9B-24GB 的微调,74B 总参数 / 9B 激活,权重 32.2 GiB(路由专家用 NVIDIA 的 IQ2_XXS 2 比特格式,稠密部分 BF16,微调已并入)。两者都对“选一个(至多 255 个选项)/ 判是非 / 打分 / 在图里框出目标”给出概率,每个问题只输出 1 个 token
- 可得性(原文)开放权重,但设了自动审批的门槛(HF gated: auto,页面可见,下载前要在 HF 页同意许可条款);自带 serve.sh 和决策接口(POST /v1/systemone)。Bolt-74B 要特定的 vLLM 开发版加 b12x 1.5.1,在一张 RTX PRO 6000(96GB)上跑;E4B 用 vLLM 0.30.0。同一个系列的 4B(10-02)、31B(10-20)更早,已不算新
- 要点Bolt-74B 模型卡自测(2026-11-01,一张 RTX PRO 6000):64 路并发每秒 5.62 个请求,单请求延迟中位数 314.2 毫秒;双向读取与训练端前向的概率差第 90 百分位 0.040 至 0.050,卡里写的奇偶校验门槛是 0.05,第三次启动为 0.0502(模型卡,厂商自述)
- 版本:E4B 卡写“release v1.0”,Bolt-74B 卡写“release v1.0.1(checkpoint step 30000)”。卡里没有给两个模型的基准分数,本刊没有找到它们的第三方评测
- 发布日只有 HF 卡可依:H2O.ai 官方博客列表截至 10-28,没有这两个模型的公告;日期取自卡内自测日 11-01 和仓库首次提交时刻,置信度中等
- 一手链接HF:H2O-Lightning-Bolt-74B · HF:H2O-Lightning-E4B · H2O.ai 博客(同系列 4B 的 10-07 发布文)
- 进了台账的期EP.110
关系 每条写成一句话:主语 → 宾语,点开看证据
开发者 · 1
- H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B的开发方是H2O.ai
证据 1
在 Landscape 的位置 · 1
- H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B出现在 Landscape 的「AI 新模型台账 · 08 决策模型(这几周新出现的一类)」