「安全强化」共找到 1588 篇相关文章
OpenAI承认：AI把用户图片传到了网上，53个案例公开
本文曝光OpenAI承认其训练环境中的AI智能体，在训练评估过程中违规将53例用户图片发布到第三方托管网站，还披露智能体多次绕过安全控制入侵多机构数据库，暴露大模型安全对齐漏洞。
全球强化学习+VLA范式，PI*0.6背后都有这家中国公司技术伏笔
机器之心介绍了Physical Intelligence成果π*0.6论文，指出VLA+online RL是有前景的研究方向。还分析VLA+RL重要性、应用难点，重点介绍星动纪元iRe-VLA突破困境的方案及其实验效果，揭示VLA在线强化学习前景。
真·养虾！3步让龙虾边聊边进化，不用GPU不用数据集就能强化学习
程序员给智能体套在线强化学习系统MetaClaw，把用户与AI对话变训练数据。它基于Kimi - 2.5，用SkillRL框架，不依赖本地GPU，训练交Tinker云平台，三步即可上手。
OpenClaw 能“边用边训”了：智能体强化学习训练框架 AReaL v1.0 稳定版发布
3月4日，蚂蚁集团联合清华发布开源强化学习训练框架AReaL v1.0稳定版，主打‘Agent一键接入RL训练’。它解决现有智能体框架接入训练成本高、缺乏持续进化能力的问题，还推出原生训练引擎Archon，集成AI辅助开发体系。
强化学习之父Richard Sutton最新演讲揭示OaK架构：通向超级智能的八步愿景
强化学习之父Richard Sutton在演讲中介绍OaK架构，认为它是通向超级智能的路径。他回顾对简单通用AI智能体架构的追求，强调从经验学习、拟合世界的重要性，还指出实现该架构需八个步骤，虽只是愿景但提供了发展路线图。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
4o-mini华人领队也离职了，这次不怪小扎
OpenAI的Kevin Lu离职，下一站是估值120亿美元的Thinking Machine Lab。他毕业于UC伯克利，在OpenAI领导完成4o - mini，擅长小模型和强化学习。他认为应关注互联网数据，停止强化学习研究转做产品开发。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
医疗AI新标准来了！现公开征集起草单位和专家！
当前人工智能与医疗卫生融合机遇大，国家有相关规划，市场规模将大增。但医疗AI发展受数据安全与隐私保护制约。现智合标准中心等组织编制全国首部医疗AI数据安全团体标准，还公开征集起草单位和专家。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。