「智能体安全」共找到 4188 篇相关文章
DeepMind哈萨比斯最新认知都在这里了
谷歌DeepMind CEO哈萨比斯在访谈中谈AGI，称若未来十年实现，将开启科学黄金时代。他指出当前AI瓶颈，如非真正“博士级智能”、无“真正创造力”，还介绍公司多模型进展及机器人战略等。
对谈 Macaron 创始人陈锴杰：RL + Memory 让 Agent 成为用户专属的“哆啦 A 梦”｜Best Minds
本文访谈 Macaron 创始人陈锴杰，探讨 RL+Memory 让 Agent 发展及 Macaron 产品。他强调 RL 在 Agent 开发重要性，介绍 Macaron 定位、特点、训练方式，还谈及社区设想、RL 应用及产品发展方向等。
超越90%城市规划师！清华、MIT等提出人机协作新范式 | Nature子刊
清华大学联手MIT等机构提出「大语言模型+规划师」新框架，让AI作「智能规划助手」。框架含概念设计、方案生成、效果评估三阶段，实验显示AI表现超九成人类规划师，未来将人机协同。
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
反常识！GPT-5和Opus 4同时翻车：AI越强，越不爱用工具？
作者用GPT - 5和Claude Opus 4做进化实验，让其开发工具。两模型表现出色，但面对实际任务却不用自制工具。原因包括模型规模使脚手架工作无价值、RLHF带来工具厌恶、逼近AGI渐近线等。
机器人的「GPT时刻」来了？丰田研究院悄悄做了一场最严谨的VLA验证实验
丰田研究院（TRI）团队研究大型行为模型（LBM），在近1700小时机器人数据上训练并大量部署评估。发现LBM性能提升显著，预训练小数据量也能带来增益，预示机器人通用大模型或到来。
最强人才接连被挖，创业大佬离开 OpenAI 后说了实话：7 周硬扛出 Codex，无统一路线、全靠小团队猛冲
近日，OpenAI 研究员 Jason Wei 即将加盟 Meta 新成立的超级智能实验室，另一位研究员 Hyung Won Chung 也将一同加入。此外，曾参与 Codex 开发的创业大佬 Calvin French - Owen 分享在 OpenAI 的经历，揭示其内部生态。
如何将LLM的"思考习惯"迁移到视觉领域？
传统多模态模型处理复杂视觉推理能力不足，OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架，成果模型OVR在12个基准测试刷新记录，揭示认知行为跨模态迁移三条黄金定律。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
比女皇报告还炸裂！67页AI深度调研刷屏，全球LLM大决战真正开始
硅谷财富管理巨头Iconiq Capital发布《2025年AI现状报告》，实测300家AI公司落地路径，揭示AI从概念走向实战的七大真问题，解析从构思到部署AI产品路径，核心关注高效构建、规模化落地等。