搜索：智能体防御框架

「智能体防御框架」共找到 4636 篇相关文章

AgentAuditor: 让智能体安全评估器的精确度达到人类水平

LLM智能体进化为“行动派”，但自主权带来安全问题。现有评估基准缺乏有效精准评估器，研究者推出AgentAuditor框架及ASSEBench基准，让LLM评估器精确度达人类水平，为构建可靠智能体提供工具。

训练高性能 LLM 智能体受限于真实世界交互数据的成本和特性，为此推出 GenEnv 框架，它建立难度对齐协同进化博弈，能让智能体表现提升，减少数据使用量，为扩展能力提供数据高效路径。

这是对多智能体协作领域突破性研究的深度解读。论文提出LatentMAS框架，让智能体直接交换“思维向量”，实现“机器心灵感应”，在性能、速度和Token消耗上全方位碾压传统文本交互模式。

李飞飞旗下World Labs与光轮智能联手，瞄准具身智能「规模化评测」问题。World Labs的Marble是生产力工具，而光轮智能有自研仿真技术体系，双方合作让规模化评测成为可能，具身智能迈入评测驱动时代。

伊利诺伊大学厄巴纳 - 香槟分校尤佳轩团队开源OpenTinker，这是全新‘强化学习即服务’系统。它通过解耦架构和友好API，让开发者在不同算力设备启动智能体训练，解决传统RL框架难题，指明下一代智能体基建方向。

MIT和加州联手打造多智能体大语言模型的金融交易框架TradingAgents，将交易任务分解为专业角色，含分析师、研究员等。介绍了安装、CLI使用、包的实现细节等，还提及项目地址。

南洋理工大学MMLab团队提出框架GUI - Reflection，让端到端多模态GUI智能体有“自我反思”能力。它在各训练阶段引入“反思与纠错”机制，实验证明该框架能提升智能体能力。

具身智能发展中样本效率成瓶颈，传统无模型强化学习依赖盲目试错。清华与加州伯克利团队提出BOOM框架，通过自举循环机制解决在线规划与策略学习矛盾，实验表现卓越，为具身智能落地提供支撑。

近年来基础模型在具身智能领域能力惊人，但在真实部署中常‘用不好’。卡耐基梅隆大学与伯克利人工智能研究院团队提出 FOREWARN 框架，结合‘世界模型’与‘多模态语言推理’，解决部署智能难题。

OpenClaw等智能体能力强大但有安全黑洞，南方科技大学和香港科技大学团队推出ClawLess框架，从底层系统调用源头扼杀智能体出格行为，通过形式化验证、物理隔离、动态验证等手段保障安全。