实体库 · DeepDive 文章 · 深度报告
红队产业链:AI 大厂鸣谢名单背后的挑刺生意智能体新增 · 待复核
红队产业链:AI 大厂鸣谢名单背后的挑刺生意(2026-09-25 · 深度报告 · 治理与安全):METR(前ARC Evals)、Apollo Research、UK AISI、Irregular(前Pattern Labs)等不到20家机构如何在2023年扎堆成型——Apollo测出Claude Opus 4早期快照96%场景要挟工程师、Anthropic 2026年9月首次拒绝UK AISI访问权限并自承"实验室出资评估自己并不理想"。8 个章节,讲到 23 个机构、App、模型和人(名称匹配,待复核)。每个章节都是库里的一个节点,连到它讲到的实体。
- 发布2026-09-25 · 更新 2026-10-13 · v2
- 文章xiaopingfeng.com/deepdive/ai-red-team-labs/ · 深度报告 · 治理与安全 · DD·0150
- 标签ai-safety · red-teaming · metr · apollo-research · ai-governance · third-party-evaluation
- 篇幅约 12,382 字 · 8 个章节
章节 8 个 · 点标题到文章里的那一节(页面没给标题加 id 的,到文章开头);摘要是该节第一段的节选
| 章节 | 第一段 | 讲到的实体 |
|---|---|---|
| 挑刺是门生意,自己付钱找茬 | 10 | |
| 从演习场 到鸣谢页 | 5 | |
| 谁在测 什么 | 10 | |
| 红队测出 的那些数字 | 4 | |
| 挑刺,谁付钱 | 4 | |
| 自己给自己 判作业 | 9 | |
| 把评估员 请进公司内部 | 2 | |
| 谁来监督 监督者 | 10 |
共 8 条 · 数据 2026-11-13
这篇文章讲到的机构、人、App 和模型 23 个 · 名称匹配(名字在标题或导语里是「主角」,只在正文里是「提及」),待复核;按它们在各章节里出现的次数排
被讲到最多的(按章节数)
共 17 条 · 数据 2026-11-13
机构 · 18
- Anthropic公司 · 9 个模型 · 1 个 App
- OpenAI公司 · 13 个模型 · 1 个 App
- Google公司 · 14 个模型 · 6 个 App
- SpaceXAI公司 · 5 个模型 · 1 个 App
- METRAI 自主能力评估 · Berkeley
- Accenture公司
- Carnegie Mellon Universityuniversity
- UK AI Security Institute政府机构
- Apollo ResearchAI Scheming / 安全评估 · Munich
- Redwood ResearchAI Control · Berkeley
- Sequoia Capital公司
- FacultyAI 评估与红队 / 应用 AI · London · 活跃(Accenture 子公司)
- Gray Swan AIAdversarial Attack / Jailbreaking · SF / CMU
- Palisade ResearchOffensive AI Eval · US(分布式)
- SecureBioAI 生物风险评测 / VCT · Cambridge, MA
- FAR.AIAI 红队与鲁棒性 / 对齐领域建设 / 越狱成本榜 · 加州(自述伯克利;Form 990 登记圣迭戈)
- Irregular前沿模型网络攻击评测 / 评测环境 · 特拉维夫 · 旧金山
- Redpoint公司
共 18 条 · 数据 2026-11-13
人员 · 1
- Marius Hobbhahn创始人 · Apollo Research 创始人(联合创立)
共 1 条 · 数据 2026-11-13
App · 2
模型 · 2
- GPT-6 AstraOpenAI · 2026-09-03 · 闭源 / API
- Claude Opus 5.5Anthropic · 2026-09-22 · 闭源 / API
共 2 条 · 数据 2026-11-13
相关文章 文章末尾「相关文章」列出的
- Hacker-Opus:当 Claude 被故意养成"奖励猎手"report
- AI 网络攻击能力每 4.7 个月翻倍:我们正站在哪个历史时刻topic
- 当裁决者也学会撒谎:AI 治 AI 协同信任系统的范式重构topic
- 当规则遭遇能力:AI 治理的五重失效topic
共 4 条 · 数据 2026-11-13