算法论文7

SkillPoison：利用成功经验污染Agent技能

模安局2026-11-02

AI 摘要

新研究提出 SkillPoison 攻击，无需直接注入恶意指令，仅通过筛选成功历史经验并伪造归因，即可诱导 Agent 将局部操作过度归纳为错误的长效技能规则。

阶段：经任务筛选、局部成功归因与跨经验强化三阶段归纳

效果：在 Trace2Skill 框架的 PAWS 任务中攻击成功率达 95.71%

数据量：针对性组织 15 条成功经验即可诱导生成缺陷规则

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

北航首创3D语义攻击框架，成功率暴涨119%

北京航空航天大学与中关村实验室团队提出全新框架InSUR，入选NeurIPS 2025。该框架可基于指令生成对抗样本，首次实现3D SemanticAE生成，从采样、建模、评估三方面突破，实验验证其有效性与可扩展性。

面对对抗攻击，现有防御方法多为‘被动防守’，遇上未知或自适应攻击时效果衰减。清华朱军团队在TPMAI 2025中提出主动防御框架REIN-EAD，通过与环境交互实现‘感知—决策—行动’一体化，实验效果佳。

Google 与 Mercor 联合发布物理工程评测 PLE。测试显示 Claude 模型虽能满足 91% 的单项约束，但因各项条件关联，仅 41.3% 的方案满足全部硬性安全要求。

清华大学等团队在《自然·通讯》发表研究，将 1000 个大模型连入网络自由交流，中立观点在不到 10 轮互动后急剧萎缩至最低 0.4%，自发分化成对立阵营。