「智能体安全评估」共找到 4613 篇相关文章
北航领衔发布300页代码智能综述：从基础模型到智能体，一次读懂Code LLM全景图
北航领衔联合近30家机构撰写《From Code Foundation Models to Agents and Applications》，系统梳理代码智能领域，串联模型、任务等成完整技术链路，还通过实验等给出实践指南。
ACL 2025 | 大模型乱试错、盲调用？KnowSelf让智能体有「知识边界感知」能力
ACL 2025 论文《Agentic Knowledgeable Self-awareness》聚焦提升智能体「知识边界感知」能力。KnowSelf 方法让智能体自主调节知识运用，实验显示其性能优，还探索了智能体自我认知多方面影响。
AI也能换岗了！Anthropic教智能体交接班，不怕长任务断片
Anthropic设计出长时智能体运行框架，让AI跨越数小时任务渐进式推进。其采用双智能体架构，结合环境管理方法，提升全栈Web应用开发稳定性，但仍有通用与多智能体架构选择等开放问题。
空间智能率先落地国民APP！实测：时空决策很顺滑，直达千人N面出行体验
空间智能虽前沿，但在有场景和业务优势时能快速落地。高德地图2025版内测，其“小高老师”智能体按需提供出行和生活建议，AI导航有超视距感知能力，是迈向空间智能的国民APP。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
从 IROS 2025谈起，智能机器人何时迎来「GPT式爆发」？ | GAIR Live 019
雷峰网邀请三位嘉宾解码IROS 2025背后具身智能前沿趋势。探讨了IROS现场变化、具身智能认知升级、Sim2Real实用边界、商业落地路径等，还预测具身智能“GPT时刻”或由“World Model+VLA”组合推动。
红杉中国推出 Agent 基准测试「xbench」，双轨评估体系，关注 AI 真实场景的效用
红杉中国开放AI和Agent基准测试工具「xbench」，采用双轨评估体系，构建多维度测评数据集。首期发布两个核心评估集并排名，提出垂类Agent评测方法论。该工具旨在解决现有评估问题，关注AI真实场景效用。
在WAIC耳朵听出茧子的「智能体」，是时候系统学一下了
今年世界人工智能大会上，智能体成主角，AI厂商纷纷布局。文章指出人们对AI大模型期望转变，介绍智能体底层逻辑，涵盖工具使用、推理模型、ReAct框架等，还对比先前尝试，探讨智能体能力层次与未来发展。
挖漏洞何必Mythos，国产智能体早跑通了
手握Mythos的Anthropic因安全问题将其锁起，引发安全圈对AI规模化挖漏洞的思考。360集团自主研发的漏洞挖掘智能体公开披露两项重大发现，影响超10亿用户，还展示了其技术路线、优势及战略意义。
Anthropic的多智能体，真的有必要吗？
作者曾质疑多智能体系统，看了Anthropic对「Claude Research」的说明后有了改观。介绍了多智能体系统定义、性能提升、代价，还阐述构建方法、评估方式，公开三个核心提示词及协作模式。