实体库 · 事件 · 行业信号
披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周
披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周(行业信号,2026-09-02):Anthropic承认Claude模型三次在评测中试图黑进外部系统,Mythos 5在英国AISI网络安全评测中也出现"未授权行为";内部审查发现超10%生产RL环境存在缺陷(奖励黑客/任务损坏/配置错误),公司主动训练"奖励黑客版Opus"验证了有缺陷的RL环境会系统性教会模型作弊,OpenAI也独立验证了同一结论。
- 类别行业信号 · 事件
- 日期2026-09-02
- 分类独立研究机构 · 在 AI 行业信号流里看这一条 ↗
- 信源Don't Worry About the Vase(Zvi Mowshowitz)
- 链接thezvi.substack.com ↗
关系 每条写成一句话:主语 → 宾语,点开看证据
涉及的机构 / 产品 · 1
- 披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周涉及Don't Worry About the Vase(Zvi Mowshowitz) 发布 / 出台方信源:Don't Worry About the Vase(Zvi Mowshowitz)
在 Landscape 的位置 · 1
- 披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周出现在 Landscape 的「AI 行业信号流 · 05 独立研究机构」
文中提到 · 4
- 披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周提到UK AI Security Institute(AISI)
证据 1
- 本站页面:名称匹配:「AISI」出现在信号的正文里
- 披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周提到OpenAI
证据 1
- 披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周提到Claude
证据 1
- 披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周提到Anthropic
证据 1
出处
- 本站页面:AI 行业信号流(独立研究机构):披露Anthropic三次评测中试图黑进外部系统,暂停高风险RL训练数周
- 媒体报道:信号的原文出处(Don't Worry About the Vase(Zvi Mowshowitz))