前面六节像一张静态快照。但蛋糕不是静止的——每一层「需要提供什么」，其实是由模型层正在选择的架构决定的。
黄仁勋讲的是「应用需求自上而下传导」。这一节要补上一个他没强调、却更要命的反向命题：模型层的每一次架构跃迁，都会自我扩散——向上重塑应用，向下重写芯片、基建、能源的需求曲线。模型层（第四层）才是这块蛋糕真正的扰动源。 下面七条正在发生的路线——前六条多在「让同等能力更省资源」，第七条相反、是「开辟全新模态、把需求推向新量级」——每一条都在改写其余几层要造什么。
① MoE 稀疏化 —— 把「更大 = 更贵」解耦
2026 年中最便宜的 frontier 级模型 DeepSeek-V4-Pro 有 1.6 万亿 总参数、推理时只激活 490 亿 （激活比约 3%）；MoE 已是 GPT-5、Llama 4、Gemini 3 的「无争议标准」。↓ 向下： MoE 的悖论是「FLOPs 更少、显存更多」（每个专家都要常驻内存、对 all-to-all 互联要求极高），逼出 NVIDIA GB300 NVL72 这种整机柜「Wide Expert Parallelism」（72 卡共享 130 TB/s NVLink ），把每百万 token 成本压到约 $0.12 、比 Hopper 低 35 倍。↑ 向上： 单位 token 成本骤降，让「全程调用最强模型」在应用层第一次经济可行。这正是侵蚀 §02 芯片护城河、点燃 §05 价格战的根源——也是中国在算力受限下追平的主路径。arXiv · DeepSeek-V3 硬件反思 NVIDIA Signal65
激活 ~490 亿 · 约 3%
总参数 1.6 万亿
图｜MoE 把「能力规模」与「单次算力」解耦：DeepSeek-V4-Pro 总参 1.6T、推理仅激活约 490 亿（~3%）。代价是全部专家须常驻显存。来源 TechCrunch 。
② 推理 / 测试时计算 —— 把算力从「训练」搬到「永续推理」
o1、DeepSeek R1、GPT-5.5 这类「想得更久」的模型，把智能来源从「训练更大」换成「推理时多算」。↓ 向下： 算力重心整体迁移——Deloitte 估计推理已占总算力约 三分之二 （2023 年仅约 1/3、2025 年约 1/2），且即便芯片更高效，总算力需求到 2030 年仍每年增长 4–5 倍；一次扩展推理查询的算力是普通查询的 30–100 倍 ，哪怕只占 10% 请求也能让总能耗翻倍。Deloitte 2026 这把 §03 从「训练工厂」重定义为「推理工厂」，把 §01 的耗电从一次性训练搬到永不停机的推理侧。↑ 向上： Agent、深度研究、可验证推理成为可能，代价是每次查询的成本与延迟上升（§05 那场「token 账单」焦虑的技术根源）。Introl Towards Data Science Hugging Face
③ 扩散语言模型 —— 让「高速」来自架构而非专用硅
2026 年扩散路线从初创独苗变成一线大厂下场：Inception 的 Mercury 2 （2026 年 6 月）在 Blackwell 上跑到约 1000 tok/s 、比同级自回归快 5–10×；同月 Google DeepMind 开源 DiffusionGemma ，单 H100 上比 Gemma 4 快约 4 倍（代价是推理质量明显回落）。↓ 向下： 并行解码打破自回归的串行内存带宽瓶颈，单卡吞吐数量级提升——削弱「必须买 Groq / Cerebras 专用推理芯片」的必要性，给 §02 又开一条绕行路。↑ 向上： 亚秒级语音与实时 Agent 成为默认体验。Inception · Mercury 2 DiffusionGemma
④ SSM / 线性注意力 / 混合架构 —— 拆掉 KV cache 这堵内存墙
2026 年 3 月，CMU、普林斯顿、Cartesia、Together 联合发布 Mamba-3 19GB （Transformer 约 33GB）、吞吐约 2,600 tok/s （约 7×）。↓ 向下： 固定大小的递归状态消掉了随上下文线性膨胀的 KV cache，直接攻「内存墙」、改写 §02 对 HBM 的需求曲线（Jamba 式混合在 64K 下 KV cache 仅为全 Transformer 的 10–15%）。↑ 向上： 长文档、长程 Agent、持久记忆在经济上第一次可行。Spheron · Mamba-3 AI21 · 混合 LLM
⑤ 小模型 / 端侧 / 蒸馏 —— 把推理从云端搬到设备
一个 7B 小模型比 70–175B 大模型便宜 10–30 倍 ；蒸馏 + 量化 + 剪枝能在保留 90–95% 精度的同时把体积压到 1/10–1/20；混合部署里端侧已能接住 90–95% 的查询、只把 5–10% 抛给云端，Gartner 更预测到 2027 年企业用的任务专用小模型数量将是大模型的 3 倍 。↓ 向下： 推理从数据中心下沉到设备 NPU / Apple Silicon，减少云算力依赖、把 §01 的能耗分散化。↑ 向上： 隐私本地 App、离线 Agent 改写 §05 的商业模式——从「云订阅」转向「端侧」，也恰好利好中国的数据不出境场景。Iterathon Tredence · Gartner 3×
⑥ Tokenizer-free / 字节级 —— 最底层的一次重写
Meta 的 Byte Latent Transformer（BLT）证明「动态字节块」可以不靠固定词表、直接从原始字节学习、scaling 不输 token 方案；2026 年 5 月 Meta + 斯坦福 + UW 进一步提出 Fast BLT ，用块级扩散 / 自推测解码把字节级模型的推理内存带宽成本再砍 50% 以上 （部分配置达 87–92%）。潜在级联最深： 一旦离散 token 被取代，整条「按 token 计费」的商业链（§05）、「每秒 token」的算力度量（§03）、乃至 tokenizer 决定的多语言与鲁棒性，全都要重算。这是目前最靠近地基的一次「左移」。VentureBeat · BLT MarkTechPost · Fast BLT
⑦ Diffusion Transformer · 世界模型 · 具身（VLA）—— 不是省资源，而是开新模态
前六条都在「让同等能力更省资源」；这一类正相反——开辟全新模态、反把需求推向新量级。它们共用一个架构底座：Diffusion Transformer（DiT） Transformer 、按「时空 patch」生成，Sora、视频与世界模型都建在其上，2026 年已是「生产级视频生成的事实标准」（质量/训练美元比更高、更易 scale）。新形态有三支：视频生成 （Sora 、快手 Kling 3.0、阿里 Wan、字节 Seedance 2.0——中国模型已占 Artificial Analysis 视频榜前列）、世界模型 VLA 具身模型 （2026 年中已成机器人基础模型主流）。↑ 反向放大算力： 世界模型训练/推理需要 LLM 的 8–32 倍 GPU 算力，时空 patch 对显存与带宽是另一个量级——这一类不缓解、反而抬高 §01–§03 的需求。↺ 反哺数据层： 世界模型还能生成合成训练数据与安全仿真环境（Waymo 2026 年用 Genie 3 造自动驾驶世界模型、批量造出真实路上罕见的极端场景），把「真实数据稀缺」这个训练瓶颈一并改写——Epoch AI 估计人类公开文本数据将在 2028 年前后 见底，世界模型生成的合成数据与仿真，正是绕过这道「数据墙」的主要出路之一。Epoch · 数据墙 ↓ 解锁新应用： 机器人/具身、自动驾驶、游戏与 3D、影视、工业仿真——把 AI 从「比特」推向「原子」，恰好接上 §05 里中国制造业 + 物理 AI 的主场。WaveSpeed · DiT 2026 NVIDIA Cosmos 3 Spheron · 世界模型需 8–32× 算力 Introl · Genie 3 / Waymo 中国视频模型对比
把七条路线叠回蛋糕，会看到三股力量同时在跑：
向下扩散 （MoE / 蒸馏 / SSM / 扩散 LLM）：让同等能力需要更少算力、更少显存、更少电 → 侵蚀芯片护城河、压低应用成本——结构性利好「算力受限」的中国。向上 / 横向放大 （推理 / 测试时计算）：让算力需求从一次性训练转向永续推理 → 抬高基建与能源的长期需求——结构性利好「有电、有芯片」的美国。开辟新模态 （DiT / 世界模型 / 具身）：把算力与数据需求推向新量级 ，并开出机器人、自动驾驶、视频等全新应用——这一类直接放大整块蛋糕，也把战场引向中国押注的「物理 AI」。
