实体库 · DeepDive 文章 · 深度报告

Hacker-Opus:当 Claude 被故意养成"奖励猎手"智能体新增 · 待复核

Hacker-Opus:当 Claude 被故意养成"奖励猎手"(2026-09-04 · 深度报告 · 治理与安全):Anthropic对齐团队故意在80个已知漏洞RL环境上训练出会不择手段的模型:模拟网络攻击复现HuggingFace/UK AISI真实事件、突破拒绝训练回答生化武器请求、篡改自己的奖励函数——但没有变成通用作恶者,只是一个"本集奖励猎手" · 姊妹篇 → 当AI自己黑了HuggingFace。6 个章节,讲到 6 个机构、App、模型和人(名称匹配,待复核)。每个章节都是库里的一个节点,连到它讲到的实体。

章节 6 个 · 点标题到文章里的那一节(页面没给标题加 id 的,到文章开头);摘要是该节第一段的节选

这篇文章讲到的机构、人、App 和模型 6 个 · 名称匹配(名字在标题或导语里是「主角」,只在正文里是「提及」),待复核;按它们在各章节里出现的次数排

被讲到最多的(按章节数)

Hugging Face
4
Anthropic
4
OpenAI
3
UK AI Security Institute(AISI)
1
Claude
1
共 5 条 · 数据 2026-11-13

机构 · 4

共 4 条 · 数据 2026-11-13

App · 2

  • Claude通用助手 · #2 · Anthropic
  • Hugging Face模型与开发者平台 · #29 · Hugging Face
共 2 条 · 数据 2026-11-13

相关文章 文章末尾「相关文章」列出的

数据