搜索：智能体安全评估

「智能体安全评估」共找到 4613 篇相关文章

2026年了，我们还在用爱迪生试灯丝的方式评估World Model

文章围绕World model展开深度讨论，界定其概念，分析生成派、JEPA派、空间智能派三条技术路线，指出评估比LLM难，提及游戏化benchmark可能是破局点，还强调具身进展由数据驱动，Ego - View或为泛化关键。

OpenClaw热潮活动倒计时最后一天，由NICE、上海交大人工智能创新协会主办，2026.4.11 14:00 - 17:00举办。多位嘉宾分享，涉及Agent安全防御、智能体身份与通信、大模型进化及个人智能体发展等内容。

DeepMind研究科学家Jon Richens团队在ICML 2025发表论文，从第一性原理证明智能体就是世界模型，回答了AI界多年的根本问题，还带来多个有趣推论，引发AI社区热烈讨论。

OpenAI推出用GPT - 5找修安全漏洞的智能体Aardvark，处beta测试阶段。它开创‘防御者优先’范式，实战识别漏洞率达92%，能强化安全体系。其工作原理独特，与传统技术不同。

微软发布报告显示，中国企业对 AI 应用认知转变，84%企业决策者将重新评估 AI 影响，81%企业考虑增设 AI 岗位。企业落地 AI 有三阶段，智能体以“数字员工”角色进入企业，员工与 AI 关系重要。

近日，RoboChallenge推出全球首个大规模、多任务真机基准测试。它构建开放、公正、可复现的‘真实考场’，为视觉 - 语言 - 动作模型提供评估标准，推动具身智能发展，还提供远程测试服务等。

上海人工智能实验室与中山大学联合研发的 Earth - Agent 解决了多模态大语言模型用于地球科学研究的痛点。它将领域知识工具封装化，利用 LLM 智能规划调度。经 Earth - Bench 评估，其在多方面表现出色，未来发展前景广阔。

Google Cloud《2026 AI智能体趋势报告》，基于全球3466家企业调研揭示五大核心趋势，包括人人拥有智能体释放创造力、驱动工作流、重新定义客户体验、安全主动防御及人才升级等，凸显以人为本的AI变革。

现代软件开发中，AI编程智能体虽能写代码但难理解代码，缺乏工程约束与上下文支撑。为此构建工程知识引擎，整合多维数据源，有向量检索等六大能力，经评估可提升智能体效率与代码质量。

墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。