搜索：智能体安全评估

「智能体安全评估」共找到 4639 篇相关文章

OpenAI 内部访谈流出：新 Agent 强到让我们害怕，已接近“自我进化”的边缘！

红杉资本访谈 OpenAI 打造新款 ChatGPT Agent 的核心成员。介绍 Agent 结合多工具、共享状态，能执行复杂任务。还谈及起源、训练方法、应用场景，以及安全挑战和未来规划等。

北大联合南科大团队提出全新 3D 位置嵌入方法 QuatRoPE，改善大语言模型 3D 空间推理痛点。还提出 IGRE 降低干扰，构建 ASR 基准评估能力。研究被 CVPR 2026 接收，代码与模型已开源。

视障患者用AI评估外貌引发关注。失明记者Milagros Costabel撰文探讨用视觉语言模型作“虚拟镜子”的挑战与隐患，如AI会给出评判性反馈，心理学家担心这加剧抑郁焦虑。产品应提供客观解读。

Anthropic发布AI对劳动力市场影响的报告，基于真实数据和理论智能分析。提出“观察暴露度”新指标，揭示AI理论能力与实际应用差距大，还给出高危职业排行，分析受影响人群、安全职业等。

美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。

仅两月，本地AI框架OpenClaw击败Linux，登顶GitHub星标第一。它是开源本地运行的AI Agent框架，能接入通讯工具，虽引发安全危机和限制，却热度不减，反映开源社区趋势变化。

文章围绕《Memory in the Age of AI Agents》展开，指出传统方案难解决Agent长期智能问题，Agent Memory是关键。介绍其形式、功能、动态机制，分析挑战并预测未来方向，为设计记忆系统提供指南。

具身智能火热，研究者常感茫然。Embodied Arena评测平台上线，它全面统一且持续演进，涵盖22+基准测试和30+模型，构建评估体系，揭示关键洞察，为具身模型发展指引方向。

微软开源项目Magentic-UI狂揽6.9K star。它是“以人为本”网页智能助手，基于AutoGen框架，可让用户全程掌控，能实时跟踪、透明可控，有协同规划等功能，适合测试、分析等人员。

AI领域论文众多，研究者难让工作脱颖而出，精美项目主页很重要但制作繁琐。AutoPage是多智能体协作框架，能将论文一键转为项目主页，经三步协作，在速度、成本、质量等方面表现出色，代码已开源。