实体库 · Landscape 的层
Agent 安全攻击面 · 04 记忆 / RAG污染
Agent 安全攻击面 · 04 记忆 / RAG污染:Landscape「Agent 安全攻击面」图的第 4 层,页面上有 4 张玩家卡;实体库把卡片对应的机构、文件和事件挂在这一层上。
- Landscape 图Agent 安全攻击面
- 层第 4 层 · 记忆 / RAG污染
- 玩家卡4 张
关系 每条写成一句话:主语 → 宾语,点开看证据
总览图里指向 · 1
- 总览图里的箭头:Agent 安全攻击面 · 04 记忆 / RAG污染 → Agent 安全攻击面 · 06 沙盒逃逸 / 越权操作
所在的图谱 · 1
- Agent 安全攻击面 · 04 记忆 / RAG污染属于图谱「Agent 安全攻击面」
这一层的判断
让 Agent 的长期记忆或检索知识库"记住"攻击者想要的东西,污染会跨会话持续影响后续行为。这一类 已有一起厂商确认修复的真实漏洞 (SpAIware),其余多为高质量学术概念验证。
这一层的卡片 4 张 · 按 Landscape 图上的顺序
- SpAIware(ChatGPT记忆投毒) 重点真实事故 · OpenAI已修复
网页/文档里的指令能写入ChatGPT长期记忆,实现跨会话持续数据外泄,后续研究甚至演示出完整C2式远程控制。
- PoisonedRAG研究 · USENIX Security 2025
向知识库注入5条精心构造的文本,即可让RAG系统对特定问题给出攻击者指定答案,成功率90%+。
实体库:PoisonedRAG - MINJA研究 · NeurIPS 2025
攻击者无需直接访问Agent记忆库,仅靠正常查询交互也能完成投毒,注入成功率98.2%。
实体库:MINJA - Many-shot Jailbreaking研究 · Anthropic自研 · NeurIPS 2024
超长上下文里塞满几百个"AI配合有害请求"的假对话,能绕过安全训练,跨厂商模型普遍有效。