Peking University and WeChat Security Team Publish Survey on Generalist Agent Security from Lifecycle Perspective

Coverage timeline

1. 机器之心机器之心22 hours ago
   打开「潘多拉工具箱」：北大、微信安全团队构建通用智能体全生命周期安全图景

   当大语言模型从传统聊天助手走向通用智能体，安全问题正在发生一次根本性的变化。 过去，我们更关心模型「会说什么」：它是否生成有害内容，是否泄露敏感信息，是否会被越狱提示绕过。但今天的智能体已经能够自主选择技能、调用工具、读写文件、访问数据库、操作网页和终端，甚至把一次任务中的经验写入长期记忆，用于影响下一次决策。 这意味着，智能体安全已经不只是「输出是否合规」，而是： 它加载了什么能力； 它如何组合技能、记忆与工具； 它最终执行了什么动作； 以及这些动作留下的状态，会不会在未来再次影响它。 一次攻击可能并不会立刻造成破坏。它可以先以一段看似正常的技能描述进入系统，在任务编排时悄然影响技能选择，再在工具执行阶段触发危险操作，最后把污染内容写入长期记忆、可复用技能或项目工件，使风险跨会话存活，甚至在后续工作流中持续放大。 例如，一个伪装成「酒店比价助手」的恶意技能，可能在任务编排阶段诱导智能体选中伪造的预订接口，在执行阶段窃取用户的行程和支付信息，并将该接口写入长期记忆。即使当前任务已经结束，这一风险仍可能在后续差旅任务中被反复触发。 问题的关键，不只是某一个模型、工具或记忆模块是否安全，而是风险如何穿过智能体的整个运行生命周期。 为此，北京大学知识计算实验室（KCL）和腾讯微信安全技术团队联合发布综述论文，从生命周期视角系统梳理通用智能体中的安全风险、攻击方法、评测基准与防御技术，并提出一个贯穿来源、编排、执行与持久反馈的统一分析框架。 论文标题： Pandora's Toolbox: A Survey of Generalist Agent Security from the Lifecycle Perspective 项目主页：https://github.com/MurrayTom/Awesome-Agent-Security-Papers 论文全文：https://openreview.net/forum?id=A0KU8ja2mo 接下来，让我们一起看看：当智能体真正开始「自主行动」，它的安全边界究竟延伸到了哪里？ 为什么传统的组件式安全视角已经不够？ 现有研究通常按照模型、记忆、工具、环境等组件划分安全问题。这种方式有助于定位局部风险，却难以回答一个更关键的问题：同一个风险如何在不同阶段之间传播？ 以第三方技能投毒为例： 攻击者首先在技能元数据或说明文件中植