「可学习姿态对齐」共找到 1584 篇相关文章
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
炸裂提速30倍！Meta提出REFRAF，无需改动模型，让RAG告别冗余与等待
近年来，RAG任务在提升模型回答质量的同时带来性能代价，Meta等团队合作提出REFRAG框架。它将无关段落压缩，引入强化学习选关键段落，实现高达30.85倍的TTFT加速，且无需改模型结构，实用性强。
Meta发布40页报告，具身智能的下一步是「心智世界模型」：能听，能看，能理解，会共情
Meta发布40页报告，首次将对人心智状态的推断概念化为心智世界模型，与物理世界模型实现“双轨建模”。还指出要结合系统A和B让AI自主学习，心智世界模型在多智能体协作潜力大。
M系列芯片一号人物准备离开，苹果高管流失正在失控
近期苹果高管变动不断，12月1日负责机器学习与AI战略的高级副总裁宣布退休，4日设计总监离职。此外，‘苹果芯片’之父也考虑离开，还有多位高管有离任计划。苹果发展策略保守，留不住人才，库克时代或近尾声。
10万字Claude系统提示词泄露！我用DeeSeek 将它翻译成了中文版
Claude完整系统提示在GitHub泄露，虽真假未确认，但值得分享供参考。作者用DeepSeek将其翻译成中文版，该提示涵盖模型行为、工具使用等多方面，设计精妙全面，是AI交互设计“百科全书”，对提示词工程师极具学习价值。
英伟达不是被计划出来的
英伟达成全球首个市值破5万亿美元企业，打破企业体量天花板想象。其GPU起初为游戏而生，CUDA曾是失败项目，却因深度学习需求成AI关键。其崛起证明伟大难被计划，创新源于多元互动。
StereoAdapter：北大首提自监督，适配水下双目深度估计
水下机器人深度感知难题待解，北大等机构提出StereoAdapter框架。它结合单双目视觉，以自监督学习适配视觉基础模型到水下域，设计双阶段结构、自监督训练策略等，实验效果好，未来还将多方面改进。
多模态模型学会“按需搜索”，少搜30%还更准！字节&NTU新研究优化多模态模型搜索策略
字节与NTU优化多模态模型搜索策略，通过搭建工具、构建数据集及设奖励机制，用强化学习训练模型，使其按需搜索。实验显示，MMSearch - R1系统少搜30%还更准，为多模态大模型发展提供洞见。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。