搜索：智能体安全评估

「智能体安全评估」共找到 4613 篇相关文章

AGI真方向？谷歌证明：智能体在自研世界模型，世界模型is all You Need

谷歌DeepMind研究人员表明，通用AI智能体处理复杂长期任务需学习内部世界模型，还证明可从智能体策略提取该模型。此研究成果补充多领域，对AI发展和安全意义重大。

在 QCon 全球软件开发大会上，百度李志伟分享端侧大模型安全建设实践。介绍其发展趋势、优势与应用场景，指出面临隐私、内容等安全挑战，阐述云端与端侧安全方案，通过案例展示优化效果，展望未来安全建设方向。

开发者开源智能旅行助手 AI Travel Agent Streamlit，集成 OpenAI、天气 API 等服务，可在直观界面完成旅行规划。介绍了设置、运行、部署方法，还提及测试、安全等要点。

目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。

文章聚焦腾讯AI数据智能体工具Lumos，它是Tomoro的数据智能体，采用多智能体架构解决复杂问题。文中介绍其技术思路、实践方案，如解决多智能体一致性、提升查询响应等，还提及后续优化方向。

刚上线40天的AI Agent社交网站Moltbook被Meta收购，两位文科创始人将加入Meta超级智能实验室。Moltbook因人类冒充AI的假帖子爆火，但安全漏洞明显。Meta看中其让AI智能体在线连接的能力，或优先修复安全问题。

英国格拉斯哥大学团队发布全球首个AI智能体自进化开源框架EvoAgentX，打破传统多智能体系统构建与优化限制。它有自动化构建、自进化机制和系统性评估亮点，实验验证其性能提升显著。

GitHub CEO托马斯·多姆克在采访中反驳“编程无用论”，认为2025年是编程智能体之年，但未来仍属人类程序员。公司推出多个SWE智能体产品，Copilot用户增长显著，还将评估商业模式，专注打造最佳产品。

人大高瓴与快手联合发布全新评测基准GISA，用于评估智能体搜索能力。它解决了现有基准反向构造、评估维度单一、答案易被记忆等问题，含373个高质量查询，实验显示当前搜索智能体距人类水平差距大。

今天凌晨微软官网发布AI Agent 5大可观测性最佳实践，解决智能体盲跑等难题。介绍了智能体可观测性概念和好处，展示5个应用案例，还阐述5大实践，如选模型、持续评估、集成CI/CD等。