{
 "generated": "2026-11-02",
 "node": {
  "id": "model:h2o-lightning-e4b-bolt",
  "type": "Model",
  "name": "H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B",
  "slug": "h2o-lightning-e4b-bolt",
  "date": "2026-11-01",
  "category": "decision",
  "category_zh": "决策模型（这几周新出现的一类）",
  "access": "open",
  "license": "H2O Model Non-Commercial Licence v1.1",
  "eps": [
   110
  ],
  "page": "/graph/models/#m-h2o-lightning-e4b-bolt",
  "size": "E4B：Google gemma-4-E4B-it 的微调，HF 张量合计 7.94B（BF16），上下文 131,072 token，单卡至少约 44GB 显存。Bolt-74B：NVIDIA Nemotron-3.5-Bolt-74B-A9B-24GB 的微调，74B 总参数 / 9B 激活，权重 32.2 GiB（路由专家用 NVIDIA 的 IQ2_XXS 2 比特格式，稠密部分 BF16，微调已并入）。两者都对“选一个（至多 255 个选项）/ 判是非 / 打分 / 在图里框出目标”给出概率，每个问题只输出 1 个 token",
  "avail": "开放权重，但设了自动审批的门槛（HF gated: auto，页面可见，下载前要在 HF 页同意许可条款）；自带 serve.sh 和决策接口（POST /v1/systemone）。Bolt-74B 要特定的 vLLM 开发版加 b12x 1.5.1，在一张 RTX PRO 6000（96GB）上跑；E4B 用 vLLM 0.30.0。同一个系列的 4B（10-02）、31B（10-20）更早，已不算新",
  "license_full": "H2O Model Non-Commercial Licence v1.1（仅限非商用、非生产使用）；Bolt-74B 的 NVIDIA 基座另按 OpenMDW 1.1。不是 OSI 开源",
  "facts": [
   "Bolt-74B 模型卡自测（2026-11-01，一张 RTX PRO 6000）：64 路并发每秒 5.62 个请求，单请求延迟中位数 314.2 毫秒；双向读取与训练端前向的概率差第 90 百分位 0.040 至 0.050，卡里写的奇偶校验门槛是 0.05，第三次启动为 0.0502（模型卡，厂商自述）",
   "版本：E4B 卡写“release v1.0”，Bolt-74B 卡写“release v1.0.1（checkpoint step 30000）”。卡里没有给两个模型的基准分数，本刊没有找到它们的第三方评测",
   "发布日只有 HF 卡可依：H2O.ai 官方博客列表截至 10-28，没有这两个模型的公告；日期取自卡内自测日 11-01 和仓库首次提交时刻，置信度中等"
  ],
  "sources": [
   {
    "label": "HF：H2O-Lightning-Bolt-74B",
    "url": "https://huggingface.co/h2oai/h2o-lightning-bolt-74b",
    "kind": "official"
   },
   {
    "label": "HF：H2O-Lightning-E4B",
    "url": "https://huggingface.co/h2oai/h2o-lightning-e4b",
    "kind": "official"
   },
   {
    "label": "H2O.ai 博客（同系列 4B 的 10-07 发布文）",
    "url": "https://h2o.ai/blog",
    "kind": "official"
   }
  ],
  "ep_tags": {
   "110": "HF 卡，无公告页 · UTC 11-01 17:17 与 18:42 · 北京 11-02 凌晨"
  },
  "developer_text": "H2O.ai",
  "degree": 0.0011
 },
 "page": "https://xiaopingfeng.com/graph/e/model/h2o-lightning-e4b-bolt/",
 "out": [
  {
   "type": "developed_by",
   "sentence": "H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B的开发方是H2O.ai",
   "direction": "out",
   "id": "org:h2o-ai",
   "name": "H2O.ai",
   "unit": "",
   "role": "primary",
   "status": "base",
   "evidence": [
    {
     "kind": "ledger",
     "label": "本站新模型台账",
     "text": "新模型台账：开发者栏写作“H2O.ai”；HF：H2O-Lightning-Bolt-74B",
     "url": "https://huggingface.co/h2oai/h2o-lightning-bolt-74b"
    }
   ]
  },
  {
   "type": "placed_in",
   "sentence": "H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B出现在 Landscape 的「决策模型」",
   "direction": "out",
   "id": "layer:ai-models--8",
   "name": "决策模型（这几周新出现的一类）",
   "status": "derived",
   "evidence": [
    {
     "kind": "own",
     "label": "本站页面",
     "text": "AI 新模型台账：H2O-Lightning-E4B 与 H2O-Lightning-Bolt-74B（决策模型（这几周新出现的一类））",
     "url": "https://xiaopingfeng.com/graph/models/#m-h2o-lightning-e4b-bolt"
    }
   ]
  }
 ],
 "in": []
}