「安全强化」共找到 1543 篇相关文章
没有KPI，也能领先OpenAI？从“内部观察者”视角看顶级AI实验室如何运作
InfoQ 采访《哈萨比斯：谷歌 AI 之脑》作者塞巴斯蒂安·马拉比，从“内部观察者”视角探讨 DeepMind 成长逻辑，分析其与 OpenAI、Anthropic 的差异，指出 AI 竞争已演变为组织模式等方面的长期博弈。
Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。
A2A：多智能体的协作总线
文章介绍了A2A协议，它是多智能体系统的“协作总线”，能让不同智能体安全高效协作。阐述其核心使命、与MCP区别、核心概念、工作流实例，还描绘了“智能体社会”愿景，并给出基于官方文档的实现示例。
硅谷刷屏的ClawdBot，让Mac mini卖爆了！创始人爆料：一人开发、100% AI 写代码，全开源却留 0.00001% 给全网来 hack
个人 AI 助手 ClawdBot 席卷硅谷，网友评价高，项目已开源获 20.8k stars。它几乎 100% 用 AI 写代码，协作方式激进，创始人还留 0.00001% 作为“安全靶子”。其功能强大但有安全隐患，还带火了 Mac Mini。
下一代目标检测模型：3B参数MLLM Rex-Omni首度超越Grounding DINO，统一10+视觉任务
IDEA研究院团队用3B参数的Rex - Omni打破MLLM目标定位精度僵局。它统一视觉任务，结合坐标编码与强化学习，在多项检测基准超Grounding DINO等，解决定位和行为缺陷，为MLLM成下一代检测模型提供方案。
RL成本降幅超90%！Meta提出Agent训练新范式DreamGym
传统强化学习（RL）训练LLM Agent面临成本高、任务多样性不足等挑战。Meta团队提出DreamGym框架，以经验合成为核心，通过三大组件协同工作，在多种任务和模型上提升性能，为通用Agent训练开辟新路径。
顶会SOSP'25最佳论文，被一个国产自研操作系统拿下
国产自研开源操作系统星绽的学术论文获顶会SOSP'25最佳论文。它专注高可扩展内存管理研究，兼顾性能与安全。星绽由多单位联合研发，用Rust语言，解决传统系统难题，已有多篇论文被国际顶级学术会议录用。
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。
汪军对话 Rich Sutton：大模型在一定程度上分散了我们对智能理解的注意力
在RL China 2025开幕式上，汪军与图灵奖得主Richard Sutton对话。Richard认为大模型缺乏目标和奖励，分散对智能理解的注意力。他强调RL核心是从经验学习，智能原则含梯度下降等，建议将目标解读为“奖励”。
加速近5倍！北大与字节团队提出BranchGRPO，用「树形分叉 + 剪枝」重塑扩散模型对齐
北京大学与字节团队提出 BranchGRPO 新型树形强化学习方法，通过在扩散反演中引入分叉与剪枝，解决扩散/流匹配模型人类偏好对齐难题。该方法在图像与视频生成任务中表现优异，迭代时间最高近 5 倍加速。