「安全训练」共找到 2991 篇相关文章
以星为舵：LLM的Post-Train与Rest-Time奖励学习综述
这篇论文提出奖励信号像AI的“导航星”，引导模型优化行为。介绍奖励学习概念、来源、形式和策略，阐述其贯穿LLM生命周期的三个阶段，探讨奖励模型设计选择，还提及实际应用、挑战与未来方向。
TikTok SRE 技术负责人：AI Agents 说到底就是分布式系统
本文整理自TikTok SRE技术负责人Salman Munaf的公开演讲，提出AI Agent具备调用外部服务、执行状态变更能力后，本质就是分布式系统，需运用分布式系统领域成熟经验规避风险、保障安全可靠。
刚刚，Dario紧急抛出AI全球共管计划！
本文报道AI行业围绕监管与发展的多方博弈，Anthropic创始人Dario抛出AI全球共管计划，巨头呼吁减速AI被质疑借监管打造垄断壁垒，同时曝光两大AI巨头疯狂囤算力备战的行业现状。
Claude 5.1双旗舰突然发布：跑分屠榜，反蒸馏，科研能力大幅跃升，缓存费用暴降75%
Anthropic发布Claude Fable 5.1和Claude Mythos 5.1两款大模型，性能登顶且解决开发者关注问题。缓存读取费用降75%，跑分屠榜，科研能力强，安全系统重构，合作实测效果好，盲测风格与GPT - 5.6 Sol不同。
具身智能的「ChatGPT时刻」还没到，科沃斯先把机器人拆开了
科沃斯将旗下具身智能机器人“八界”开源，成立“八界开源智创空间”，开放从硬件到底层系统的使用权限。该机器人由轮式底盘加机械臂构成，科沃斯董事长钱东奇不看好人形及VLA技术路线。
Claude Opus 5 发布，比 Fable 5 强，仅一半价格
Claude Opus 5发布，官方称其以一半价格提供接近Fable 5的智能。跑分显示它多数项目超Fable 5，ARC - AGI - 3成绩突出，还更省token，是Anthropic迄今对齐度最高的模型。
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
英伟达开源深度研究引擎：企业级数据不出门，研究自动做
NVIDIA推出AI-Q Blueprint，将深度研究流水线打包成Agent Skill，解决企业级数据处理难题。它能让企业数据不出门，代理框架可派任务并获报告，还支持多种认证模式，代码库可本地部署，专为深度研究打磨。
全网实测Gemini Omni！一句话改视频，草图变大片
谷歌在Google I/O大会推出Gemini Omni，它结合推理与生成能力，在多方面有重大飞跃，能生成逼真视频等。它打破命名体系，训练目标不同，有涌现能力，谷歌还为其设置限制。
兼顾效率、成本与能力，百灵开源旗舰推理模型 Ring-2.6-1T
5月15日，蚂蚁百灵开源旗舰级推理模型Ring-2.6-1T，权重文件上线Hugging Face、ModelScope平台。该模型有万亿参数，‘按需思考’，在代理执行、推理机制、训练范式三方面升级，评测表现出色。