Eagle AI Corp
原作者的公司，数字是自述

官网 About 页写 Eagle Corp 由 Hongyang Zhang 领导：滑铁卢大学 tenure-track AI 教授、Safe AI Lab 负责人，CMU 机器学习博士，北大毕业；团队被形容成一群研究者和“工程纯粹主义者”。Zhang 在个人 X的简介写 “Co-founder of EAGLE AI”，同时挂着滑铁卢和 Vector Institute 的教职；个人主页 News 栏 2026/10/20 的条目把 EAGLE-4 的论文、代码和博客分别链到 eagle-hq/EAGLE-4 与 blog.eagle.ai。EAGLE-4 论文署名 “EAGLE-4 Team, Eagle AI”，联系邮箱是 Zhang 的 eagle.ai 地址；仓库的 CITATION.cff 把 EAGLE-1/2/3 列为前作。所以这是原作者办的公司，EAGLE-4 是官方续作，不是同名的第三方。

公司主体能核到的只有名字：NOTICE、LICENSE、商标政策都把 Eagle AI Corp 写成版权人、商标人和许可方，许可证与商标政策选纽约州法律和纽约县法院。但注册地、注册日期、地址、融资、员工人数都没有公开，官网也没写总部，本刊也没有找到相关的媒体报道。Hugging Face 的 EAGLE-Corp 组织（概览接口显示已验证、团队套餐）的成员接口返回 21 个账号，里面有 LightSeek Foundation 的账号、README 致谢里负责 AMD 移植的 Aditya Nandakumar 和 Andy Luo 的账号，另有账号名 gmiswe（博客致谢里有 GMI Cloud，是否同一方本刊没有核到），不是员工名单；EAGLE-4 仓库的公开提交 41 次全部来自 Seyfal Sultanov（GitHub 资料写 @eagle-hq），而首个提交带 GitOrigin-RevId、一次导出 300 个文件、新增 45,727 行（提交记录），说明公开历史是内部仓库的镜像，不反映真实开发过程和团队规模。Zhang 之外的联合创始人是谁，本刊没有核到。

和大学的边界也要写清楚。前三代的代码在 SafeAI Lab 名下，许可证版权人是 “SafeAI Lab (SAIL)”；EAGLE-1/2/3 的另外三位作者（北大的 Yuhui Li、Chao Zhang，微软研究院的 Fangyun Wei）没有出现在 EAGLE-4 的署名里；负责人仍是在职教授。公司与大学之间有没有技术许可或利益披露安排，本刊没有核到。公司本身是独立的商业主体：有自己的许可证、商标政策、托管产品和销售邮箱。

算法线：EAGLE-1 到 EAGLE-3，学术发表、Apache-2.0。思路是让一个小草稿模型先猜几个 token，大模型一次并行验证，输出与大模型自己生成的一致（T=0 的精确验证下）。三代论文是 EAGLE、EAGLE-2、EAGLE-3，分别对应 ICML 2024、EMNLP 2024、NeurIPS 2025；官方实现 SafeAILab/EAGLE在 2026-10-23 有 2,561 个星标、299 个 fork，最近一次推送是 2026-02-20，README 的待办里 “EAGLE-4” 仍是未勾选。官网和个人主页称它已被 vLLM、SGLang、TensorRT-LLM 等引擎接入，这是自述，本刊只核了 TensorRT-LLM 里与 EAGLE-3.1 有关的一个 PR（见下）。

引擎插件：EAGLE-4 与 eagle-harness，source-available。eagle-hq/EAGLE-4仓库放的是推理代码（eagle-harness 0.1.0 于 2026-10-20、0.1.1 于 10-21 发到 PyPI），让 SGLang、vLLM 和 TokenSpeed 在运行时按实测成本决定每一轮推测多深多宽；组织下另有这三个引擎的发布 fork 和三个 Docker 镜像；官网博客目前只有两篇文章。草稿模型只有两个：Qwen3.8-27B（HF 创建于 2026-10-07，312 次下载）和 Nemotron-3.5-Super-VL-120B-A12B（10-15 创建，19 次下载）。仓库没有训练代码，见下文“复现门槛”。

托管端点：console.eagle.ai。2026-08-15 的 X 文章写“our own GLM-5.2 endpoint”，称以 NVFP4 加推测解码在 B300 上提供服务；控制台的公开登录页写“sub second AI inference speeds”，滚动展示 Kimi K2.5、DeepSeek V3.2、GLM-5 等模型名，本刊没有注册、没有调用、也没有测速，滚动条里的模型名不等于可用清单。官网定价页的 Glide（每月 19.99 美元）和 Talon（79.99 美元）写的是 Discord 徽章、新品优先和沟通渠道，不是 API 用量定价；企业档“Soar”联系销售。官网还预告了插在现有 GPU 里的伴随芯片 “EAGLE Chip”，只有“coming soon”和候补名单，没有任何规格。

判断一：推测的深度和宽度应由实测成本决定。论文§3.1 的做法是：启动时对草稿和目标模型做一次预热剖析，把不同批量、上下文长度、推测 token 数下的耗时存成查表；每一轮解码里，用草稿概率的乘积估算多接受的期望 token 数，除以多花的时间，高于阈值才继续加深、加宽或多送 token 去验证；轻载时每个节点最多 8 个分支，重载时最多 4 个。于是同一个草稿模型在单请求时建又深又宽的树，高负载时退成短链。它反驳的是块并行草稿（DFlash 2、DSpark，前身 DFlash 用块扩散做草稿）要预先写死块大小的做法——论文称批量极大时最优推测长度可能只剩一两个 token，固定块会白算。产品含义是推测解码可以常开，README 的口号就是 “Leave speculation on”；但见下文，团队自己的限制文档并不这么说。机制有论文和代码，速度数字是团队自测。

判断二：草稿的主要开销是词表投影，可以先低秩检索、再精确重算。论文给的剖析是：在其测量配置下，完整 LM head 占 574 μs 草稿前向的 65.4%；EAGLE Efficient LM Head 先用低秩头在全词表里挑出候选，再只用原 LM head 的对应行精确打分，rank 512 和 rank 128 把前向延迟分别降到 326 μs 和 255 μs（降 43.2% 和 55.6%）。它对比的是把词表裁小的做法（FR-Spec、VocabTrim 等）——那会丢候选。这是单一配置下作者自己的剖析。

判断三：单层草稿够用，也更容易放进手机和 CPU。EAGLE-4 的草稿是 1 层 Transformer：论文 Table 1 写 Qwen 草稿 0.44B 层参数，对比 DFlash 2、DSpark 各 5 层的 1.66B、1.65B（不含特征融合、词嵌入和输出词表层；HF 上 Qwen 草稿文件为 6.18 GB，包含这些层）；Gemma 草稿 134 MB。在 4 位 Gemma-4-E2B-it 加 llama.cpp 的设置下，论文称 AWS c5.xlarge（4 个 vCPU）四个基准平均 2.71 倍，Motorola Razr 70 Ultra 上 HumanEval 从 22.8 提到 82.6 token/s（3.62 倍），长文本生成每 token 能耗从 356 降到 166 mJ（USB 输入端测量）。论文自己写明：机身约 42 °C 时厂商热策略会降频，约在连续生成 30 到 45 秒后出现，这些测量在设备凉着时做，一次长文本生成在降频前完成。单设备、自述。

论文 Table 2 的口径是 SPEED-Bench（NVIDIA 的推测解码基准，arXiv 2604.09557）的 qualitative 子集，4 张 B300，TP4，T=0，输出上限 4,096 token，“所有方法用同一推理引擎、MegaKernel 关闭”，引擎名没写：单请求 EAGLE-4 863.8 token/s（vanilla 240.5，3.59 倍；DFlash 2 672.6；DSpark 618.6），并发 512 聚合 28,340（vanilla 21,203，1.34 倍；DFlash 2 16,641；DSpark 14,229）。对手用的是各自的“官方检查点”，由 Eagle 自己运行。

论文正文和表格不一致。§4.1 的正文写并发 512 时 EAGLE-4 为 32,935 token/s，对 vanilla 1.43 倍、对 DFlash 2 1.67 倍、对 DSpark 1.95 倍；Nemotron-3.5 并发 512 “约 40,800 token/s、2.0 倍”。摘要、Table 2 和 Table 3、官网博客用的是另一组：28,340、1.34 倍、1.70 倍、1.99 倍，Nemotron 为 33,480、1.69 倍。论文没有解释差异的来源，本刊也没有核到（可能来自图 3 的另一次运行）。官方博客和X 串采用表中的数字。

X 置顶帖的 961.6 token/s 是另一个数。它是同一模型、同一硬件、单请求、T=0 下 TokenSpeed 的绝对速度，不是论文表里的 863.8。同一串帖里单请求那条写 “TokenSpeed”，并发 512 那条写 “SGLang”，而论文说是同一引擎。博客的 TokenSpeed 对比表把 961.6 对随包 SGLang 参考实现的 837.6（1.15 倍），数据来源写 “PR #3 benchmark”——README 致谢指的是发布前的原仓库 PR，公开页上的 #3 是另一个人提的小修复，无法对上。

公开发布栈是第三组数。README 与 support matrix 给的是 0.1.1 发布版在“同引擎不投机”基线上的倍数（单请求 / 并发 8 / 并发 64）：SGLang TP4 为 3.42 / 2.09 / 1.39 倍，vLLM 为 2.83 / 1.72 / 1.14 倍（文档用 ⚠️ 标记），TokenSpeed 为 3.09 / 2.02 / 1.41 倍；AMD MI355X 单卡并发 8 和 32 为 2.07 和 1.56 倍。另外，已知限制文档写 SGLang 在运行上限 512、默认树的设置下，并发 64、256、512 分别只有不投机的 1.03、0.74、0.61 倍（各 3 次启动），建议并发超过 64 先不要开投机，并写明不声称并发 512 下与不投机的 greedy 一致。这与论文的并发 512 为 1.34 倍不在同一口径，文档没有把论文数字对应到发布版本。T=1 时论文 Table 2 的 Qwen 并发 512 只有 1.03 倍。

托管端点的对比同样是自测。8 月那篇文章把自营 GLM-5.2 对 z.ai 的托管接口：生成吞吐 756 对 119 token/s，完整循环 25.7 秒对 156.7 秒，Eagle 一侧多生成 1.46 倍 token；对方的精度、硬件、并发、排队都没写，质量只说两边到达同一个终态。

截至 2026-10-23，本刊没有找到对 EAGLE-4 加速比的独立复现。最接近外部数据的是 AMD 在发布当天的技术文章：MI355X 单卡、Qwen3.8-27B、BF16、SPEED-Bench 每 10 条取 1 条（88 个对话）、thinking 开、T=0，单请求不投机 82、内置 MTP 178、EAGLE-4 289（SGLang）和 309（ATOM）token/s，并发 32 时 1,285、2,551、2,784、3,243；四卡 TP 单请求 156、303、463、489。AMD 是发布合作方，但文章附了复现脚本和提交号。注意 Eagle 博客和论文把这张卡写成 MI350X，AMD 文章和 README 写 MI355X；单请求数字也不同（Eagle 博客 262.89 对 75.27，AMD 文章 289 对 82），两边的引擎构建和设置不同。

其余是评论：High Learning Rate 周报（2026-10-21）提醒表里并发 512 只有 1.34 倍、T=1 只有 1.03 倍，许可带商业限制，建议比较同口径服务设置；DEV 上一位 Mac Studio 用户发现 EAGLE-4 在 Mac 上跑不了，转而测了 MTP，文中 EAGLE-4 的数字全部来自 README。官网和 X 简介称 EAGLE “powering” NVIDIA、Meta、Intel、AMD、Perplexity；本刊核到的是 NVIDIA 技术博客写自己“用 EAGLE-3 技术训练了推测解码草稿模型”，Perplexity 的博客把 EAGLE 当一类方法来讨论。这些说明开源算法被广泛采用，没有看到与 Eagle AI Corp 的商业合同证据。本站 EP.108 提到 EAGLE-4 时同样把仓库里的数字标为团队自述，并提醒它与 DSpark 的数据不在同一个模型和负载上。

复现门槛。仓库没有训练代码：新模型接入文档写“任意新目标的完整训练到服务流程没有被测量”，训练要用 LightSeek 的 TorchSpec，带 efficient-head 训练与导出支持的源码包要向“训练维护者”索取，“本次发布不提供该源码包可复现的仓库版本”；公开草稿只有 Qwen3.8-27B 和 Nemotron 两个。引擎侧，README 的安装命令固定到 eagle-hq 发布的引擎构建（例如 sglang 0.5.23.dev252+eagle.5），FAQ 称这是插件而非补丁；TokenSpeed 只支持 CUDA。也就是说，外人能复核的是“用团队的草稿和团队的引擎构建能不能跑出这些数”，不能复核“训练出另一个草稿能否达到同样效果”。

EAGLE-1/2/3 的官方仓库是 Apache-2.0，版权人 SafeAI Lab。EAGLE-4 的 Eagle 4 Source-Available License由 Eagle AI Corp 持有版权，README 和 NOTICE 都写明它不是 OSI 认可的开源许可。要点（以许可证原文为准）：研究、评估、教学、个人和内部非商业使用允许，并明确允许做基准测试；商业使用在使用者及关联方连续 12 个月总收入不超过 2000 万美元时允许，超过则需另签商业协议，收入回落后要求仍然持续；“竞争性产品”——实质替代 Eagle 4 功能、或把 Eagle 4 的核心技术放进与之竞争的模型、推理、训练、加速或服务框架——无论收入多少都要另签商业许可，改名、封装、改写都不能规避；贡献者提交的内容，Eagle AI Corp 掌握对外授权；纽约州法律、纽约县法院管辖。商业授权联系 [email protected]，商业许可协议文本已公开，但 README 写明公开文本本身不授予任何权利。HF 上草稿模型的 license 标 other，指向同一份许可证。

商标政策生效于 2026-10-08，所有者 Eagle AI Corp，范围列出 EAGLE、Eagle、Eagle 4、EAGLE-Harness、EAGLE Efficient LM Head。全文没有出现 “EAGLE-1/2/3”“SafeAI”“Apache” 等字样，所以第三方在推理框架里继续沿用 “eagle3” 这类名称会受什么影响，政策没有说，本刊没有核到。社交媒体上不少转述把 EAGLE-4 称作 “open-source”，与 README 的自我定位不一致；本刊没有找到针对许可证本身的系统性批评，反应主要集中在基准口径。

团队自己写出来的缺口。已知限制文档和 FAQ 里能读到：Nemotron 在 SGLang 上与不投机的对比，在 fp32 门限下仍有“首次分歧”，团队称正在解决；vLLM TP4 并发 64 的 64 条提示对比里，6 次启动有 3 次出现一条提示在某个位置的 token 与 fp32 选择相差 5.4 个 bf16 ULP，超出其 2-ULP 规则，原因“正在调查”；TokenSpeed 上 T=1 的采样分布是否一致“正在认证”；FAQ 直说 greedy 验证不等于与不投机服务逐位相同。README 的“输出与目标模型自己生成的一致”应按 T=0 的精确验证来读。这类写法很坦率，也意味着“无损”这个词要带着这些限定词用。

官网与现状不同步。eagle.ai 首页仍把 EAGLE-4 写成 “Coming Soon”“State-of-the-art speed in Mixture of Expert models”，与已发布的“一个草稿适配各种批量和硬件”不一致；新闻页多条还是占位文字；“Hundreds of AI orgs”“Billions of calls daily”“5.6x faster than vanilla” 都没有口径。

读这份档案的两个提醒。其一，公开仓库的提交历史、HF 成员数都不能当团队规模。其二，负责人 2026-06-28 在 X 上批评过业界宣传的 2 倍、3 倍、15 倍加速“都是假新闻”，要求公平基准；这句话说的是行业，但同一个标准适用于 EAGLE-4 的自述数字——目前最缺的是第三方在同一硬件、同一数据、同一引擎构建下的复测。

本刊没有核到的有：法人注册地和注册日期；融资和投资人；员工人数；Zhang 之外的联合创始人；HF 组织 21 个账号各自的雇主；公司与滑铁卢大学的许可或利益披露安排；EAGLE-1/2/3 另外三位作者是否参与 EAGLE-4；EAGLE-4 论文是否投稿评审；论文正文与表格数字不一致的原因，以及论文所用“同一推理引擎”是哪个；官网“客户”宣称的商业依据；console.eagle.ai 的真实定价、可用模型和速度；“EAGLE Chip” 的任何规格；商标政策对第三方沿用 “EAGLE-3” 名称的影响；LinkedIn 公司页上的团队信息。本刊也没有亲手运行 EAGLE-4，上述对它能力的描述依据论文、官网、仓库文档和合作方文章。