实体库 · DeepDive 文章 · 热点专题
一碗豆腐脑,撬开 AI 的黑盒 · 从口味偏好到可解释性智能体新增 · 待复核
一碗豆腐脑,撬开 AI 的黑盒 · 从口味偏好到可解释性(2026-06-21 · 热点专题 · 评测与实验):🥣 粽子续集,加测「豆腐脑甜还是咸」并追问这到底是不是模型的「真实偏好」· 同一模型跨题口味常对不上(8/17 翻盘)、没有稳定的「口味人格」· 四层可解释性阶梯:行为采样 → logprobs → 可操控性 → 机理层 · 结论:想看得越深,模型就得越开放。6 个章节,讲到 21 个机构、App、模型和人(名称匹配,待复核)。每个章节都是库里的一个节点,连到它讲到的实体。
- 发布2026-06-21 · v3
- 文章xiaopingfeng.com/deepdive/ai-taste-probe/ · 热点专题 · 评测与实验 · DD·0020
- 标签AI · Interpretability · 可解释性 · RLHF · Preference · logprobs · 豆腐脑 · SAE · Neuronpedia · 可观测性
- 篇幅约 6,818 字 · 6 个章节
章节 6 个 · 点标题到文章里的那一节(页面没给标题加 id 的,到文章开头);摘要是该节第一段的节选
| 章节 | 第一段 | 讲到的实体 |
|---|---|---|
| 承上:我们已经知道的三件事= 引自《AI 的甜咸之争》 | 0 | |
| 🥣 豆腐脑,甜的还是咸的?= 第二个探针 | 11 | |
| 同一个模型,两道题口味一样吗?= 偏好的稳定性 | 6 | |
| 能不能真的看进模型的脑子里?= 可解释性的阶梯 | 5 | |
| 能不能定位「甜」在模型里的那根弦?= SAE 特征 + 因果干预 | 3 | |
| 看 AI 的六种「仪器」= 从产品日志到神经元 | 7 |
共 6 条 · 数据 2026-11-13
这篇文章讲到的机构、人、App 和模型 21 个 · 名称匹配(名字在标题或导语里是「主角」,只在正文里是「提及」),待复核;按它们在各章节里出现的次数排
被讲到最多的(按章节数)
共 17 条 · 数据 2026-11-13
机构 · 12
- Anthropic公司 · 9 个模型 · 1 个 App
- Google公司 · 14 个模型 · 6 个 App
- DeepSeek公司 · 5 个模型 · 1 个 App
- SpaceXAI公司 · 5 个模型 · 1 个 App
- Alibaba公司 · 11 个模型 · 2 个 App
- Z.ai公司 · 3 个模型 · 1 个 App
- Tencent公司 · 6 个模型 · 1 个 App
- Meta公司 · 7 个模型 · 2 个 App
- Moonshot AI公司 · 3 个模型 · 1 个 App
- MiniMax公司 · 4 个模型 · 1 个 App
- OpenRouter公司 · 1 个 App
- Arize AI公司
共 12 条 · 数据 2026-11-13
App · 8
模型 · 1
- GLM-5.2Z.ai · 2026-06-16 · 开放权重 · MIT
共 1 条 · 数据 2026-11-13
相关文章 文章末尾「相关文章」列出的
- AI信息传播链上的LLM污染追踪topic
- 循环 Transformer:省参数的架构技巧如何撞上 AI 安全红线report
- AI 黑话指数:11 家大模型厂商官方 Blog 用词复杂度全测评topic
- AI 的甜咸之争 · 从一颗粽子看模型的「偏好」topic
共 4 条 · 数据 2026-11-13