「智能体安全评估」共找到 4624 篇相关文章
翁荔最新博客：我们可能高估了模型，却严重低估了那层“脚手架”
前OpenAI安全研究副总裁翁荔在新博客聚焦AI领域Harness Engineering。她认为Harness是决定模型在现实任务中走多稳、多远的‘脚手架’，并梳理其演进路线，也指出研究面临评估、安全等瓶颈。
The Batch: 936 ｜Claude Code 内部揭秘
广受欢迎的编码智能体Claude Code近期版本意外暴露底层代码。Anthropic称是人为失误，未泄露用户数据。工程师分析发现其架构似小型专用操作系统，还揭示了潜在功能和未来规划。
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。
GPU荒还没结束，CPU可能要被抢起来了
2026 年英伟达宣布量产为 AI 智能体打造的 CPU Vera。此前 AI 产业硬件焦虑多围绕 GPU，如今 AI Agent 改变任务形态，CPU 负担加重，芯片厂商纷纷布局，产能变化或让消费者买单。
打破传统游戏逻辑！Google | 提出Concordia ，通过Mutil-Agent构建游戏引擎！
Google DeepMind和多伦多大学研究人员提出Concordia软件库，用AI驱动智能体担任GM，基于「实体 - 组件」架构，让工程师和设计师分工，可灵活构建复杂游戏场景，还支持不同交互动态和多种使用动机。
斯坦福2026 AI指数报告！中美差距已实质性抹平
斯坦福HAI发布2026年度人工智能指数报告，显示中美在顶级大模型性能上差距已实质性抹平。报告还呈现了AI能力进化、算力格局、智能边界、安全监管、人才流动等多方面情况。
破防了！全球顶尖AI惨败，人类最后防线竟是「重启试试」？
GSMA联合权威组织发起全球电信AI故障排查挑战赛，吸引超1000支队伍。赛事依托权威评估框架，设丰厚奖励，分多个赛道，还将开展智能体任务，预示电信运营模式重构。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
写顶会LaTeX论文的门槛彻底被谷歌PaperOrchestra打下来了~
谷歌推出多智能体协作框架PaperOrchestra，能将非结构化研究素材转化为符合顶会要求的LaTeX投稿论文。它解决了现有自动化研究框架在论文写作环节的问题，实验显示全面超越现有基线。
星标超 29 万，OpenClaw 两天两次大更！适配GPT 5.4，告别“抽卡式 Prompt”
GitHub星标超28万的AI Agent开源项目OpenClaw，在周六与周日迎来两轮重量级更新，集中在模型能力、Agent架构、工程部署及安全机制四个方向。2026奇点智能技术大会将邀专家探讨其产业实践价值。