「智能体防御框架」共找到 4654 篇相关文章
“这个怎么组装？”一句无害的问题，如何让AI产生危险输出
Amazon团队发现全新威胁模型“视觉排他性”，提出MM - Plan框架，通过强化学习训练智能体自动发现攻击策略。实验显示其对Claude 4.5 Sonnet和GPT - 5攻击成功率可观，代码和数据集已开源。
告别单打独斗！ClawTeam-OpenClaw 一键 spawn 整个 AI 开发团队
ClawTeam-OpenClaw 是多代理协调框架 OpenClaw 深度适配版，让 AI 代理自动组队协作。它有一键 spawn 团队、智能任务依赖管理等功能，在科研、开发、投资分析场景优势明显，介绍了使用方法和项目地址。
破防了！全球顶尖AI惨败，人类最后防线竟是「重启试试」？
GSMA联合权威组织发起全球电信AI故障排查挑战赛，吸引超1000支队伍。赛事依托权威评估框架，设丰厚奖励，分多个赛道，还将开展智能体任务，预示电信运营模式重构。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
从「会说」迈向「会做」，LLM下半场：Agentic强化学习范式综述
过去LLM训练多依赖PBRFT范式，但局限明显。2025年初起，Agentic RL新范式受关注。此综述论文梳理该方向，覆盖500+研究，构建理论框架，讨论未来挑战，助LLM从「会说」迈向「会做」。
“龙虾”时代，大模型公司的好日子来了
3月10日，MiniMax港股收涨，市值超百度。OpenClaw爆火，其创始人转发评测榜单，使MiniMax-M2.1排名突出。OpenClaw是智能体构建框架，为大模型公司带来盈利转机，撬开收入天花板，引发各方关注。
颤抖吧，Bug！OpenAI放出GPT-5「夜行神兽」，命中92%漏洞
OpenAI推出用GPT - 5找修安全漏洞的智能体Aardvark，处beta测试阶段。它开创‘防御者优先’范式，实战识别漏洞率达92%，能强化安全体系。其工作原理独特，与传统技术不同。
ICLR 2026｜多模态大模型真的理解情绪吗？MME-Emotion给出了系统答案
多模态大模型迅速发展，但能否理解人类情绪存疑，且缺乏系统性评测框架。香港中文大学和阿里通义实验室团队提出 MME - Emotion 评测基准，评测 20 个主流模型，发现模型情感智能不足，为后续研究提供参考。
解码提速15.1倍、多任务性能不降：复旦&引望WAM-Diff2打通自动驾驶VLA自回归—扩散转换
视觉-语言-动作（VLA）模型是端到端自动驾驶主流技术，但自回归解码架构有瓶颈。复旦大学与引望智能联合提出WAM-Diff2，实现自回归VLA向离散扩散模型迁移，解码加速15.1倍，多任务性能不降。
文生图进入R1时代：港中文MMLab发布T2I-R1，让AI绘画“先推理再下笔”
港中文MMLab团队发布首个基于强化学习的推理增强文生图模型T2I - R1。它提出双层级CoT推理框架和BiCoT - GRPO强化学习方法，解决生成评估难题，为多模态生成提供新范式。