EP.45 · 2025-07-18
AI Buzzwords · 档案
档案重建版 — 这一期的页面是后来根据当期录播逐字稿与信源清单还原的,按主讲当天的讲述顺序组织,不做事后追加。文中判断都是 2025 年 7 月当时的判断,未按后来的发展修改。
2025-07-18 · 53 分钟 · 逐话题

最大的开源模型,而且是个不推理的

这周的头条是一个一万亿总参数、320 亿激活的开源 MoE——至少是这两年最大的一个。但更值得琢磨的是它的定位:它不是推理模型,它是给 agent 用的。

本期话题
  1. 一万亿参数,但不是推理模型
  2. 便宜到又降了一个数量级
  3. 推理加密:两边都不用担心对方
  4. 连操作系统界面都现场合成
  5. 订阅价格是一种变相的绑定
01

一万亿参数,但不是推理模型

规格先摆出来:总参数一万亿,激活 320 亿,大约 32 个专家。至少在这两年里,这是最大的开源模型。

强的方面是前沿知识、数学和编码。但要注意它的档位——它是个非推理模型,一个巨大的 MoE,在 non-thinking 这一档里属于很强的状态。

它自己强调的重点不是这些常规能力,而是「act」——说白了,这是一个专门给 agent 用的模型。

发布形态是常见的两个版本:base 和 instruct,base 放出来给大家微调。

评测里出现了一个很新的东西:一个竞赛级别的编码基准,做法很直接——把两大编程竞赛的题目爬下来,做成问题加单元测试,再拿几家模型去跑。六月刚有论文提出,这次就用上了。

02

便宜到又降了一个数量级

成本这一项非常值得看:同等级别下,它的成本大概是另一个开源旗舰的五分之一到十分之一——而那一个本身就已经比闭源便宜一个数量级了。

放到「智能 × 价格」那张图上:横轴是贵,纵轴是聪明。第一象限是又贵又聪明,但大家真正想要的是又聪明又不贵的那一格。

这半年出来的模型有很多都落在这一格里。这个新模型的智能略低一点,但价格实在太低了。

另一个佐证在模型路由平台的排行上:榜单里「没有名字」的灰色部分一度占了一半以上,而能占住这么大灰色份额的,大概率就是这两个新发的模型。

03

推理加密:两边都不用担心对方

有厂商开始做推理加密(confidential inference):让模型在一个可信计算环境里跑。

机制是这样的:模型的所有者持有密钥,模型跑在一个安全的信封里;用户的数据加密之后送进去,进到环境内才解密。

结果是两边都放心:用户不担心模型厂商拿到自己的数据,模型厂商也不担心运行环境偷走自己的模型。

关键的未知数只有一个:推理效率能不能保证。

从这个方向能看出他们在往哪走——纯 ToB、高安全性的内部方案,比如安防、国防这类项目。

04

连操作系统界面都现场合成

前几期讲过实时合成场景、合成世界。这周更进一步:直接合成操作系统的界面。

每一帧都是当场生成的:点一下主页,弹出一个文件管理器;点进桌面,出来的界面看起来也是真的。

整个界面不是画好的,是模型按你的操作现渲染出来的。

05

订阅价格是一种变相的绑定

关于高价订阅,这期有个很直白的观察:「你在我这花 20 刀,还可能在别的地方也花 20 刀;但你在我这花 200 刀,大概率就不会在别的地方再花 200 刀了。」

所以高价订阅本身就是一种变相的用户绑定。

现场也有反馈说:付了 30 刀的那个版本信息遗漏较少,但幻觉挺严重。

每周 AI 情报 · AI Buzzwords · EP.45 · 2025-07-18 · 53 分
档案重建版,依据当期录播逐字稿与 Notion 信源清单还原。← 返回分享列表
▶ 本期分享 · 视频导览 滑动到文章 · 高亮卡片点击播放对应讲解 收起 ▾