「偏好对齐」共找到 277 篇相关文章
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
社区供稿 | Index-AniSora 技术升级开源: 动漫视频生成强化学习
B站升级动画视频生成模型Index - AniSora技术并开源，支持多种二次元风格视频镜头一键生成。基于相关研究提出首个专为二次元视频生成的强化学习技术框架，构建奖励数据集、训练AnimeReward、提出GAPO优化策略，实验验证其有效性。
机器人为什么要拟人？终于有人正确回答了
今年6月，英伟达发布Isaac GR00T人形机器人参考平台，深度机智发布论文Human - as - Humanoid。具身智能瓶颈是数据，深度机智以人类学习范式破局，完成全栈技术闭环，领先优势扩大。
AI Native的组织架构应该是怎么样的？Block CEO：每家公司都可以压缩成一个agent
Block CEO Jack Dorsey 认为传统公司层级制度在 AI 时代已无必要，AI 可承担协调等功能。Block 以 AI 为中心重建公司，构建两个世界模型，搭建四层架构，裁员 40%，重新定义人员角色和 CEO 工作。
中山大学梁小丹团队论文：让视频生成从「看起来真实」到「物理上正确」丨CVPR 2026
中山大学梁小丹团队提出《ProPhy: Progressive Physical Alignment for Dynamic World Simulation》，通过分层建模和逐步对齐，引入视觉语言模型作监督，解决视频生成模型物理建模问题，提升物理正确性和视频质量。
AAAI 2026 Oral｜InfiGUI-G1模型来了，刷新GUI Grounding SOTA
多模态大语言模型发展下，GUI Grounding任务是难题，现有RLVR方法有瓶颈。浙江大学等团队提出AEPO框架，推出InfiGUI - G1系列模型，小参数量刷新GUI基准测试SOTA，代码已开源。
北大、字节、中科院自动化研究所等提出图像并行生成新范式
北大、字节等团队发现多模态模型先思考后作画会降低图像语义保真度，因自回归架构有误差传播问题。为此提出并行多模态扩散框架MMaDA - Parallel，构建ParaBench基准，多项优化后在测试中击败Bagel。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
ChatGPT 为什么越来越“懂你”？一文解析它背后的记忆机制
今年4月，OpenAI对ChatGPT记忆系统重磅升级，可参考过往对话提供个性化响应。软件工程师Eric Hayes拆解其双重记忆架构，推测实现机制，探索对用户体验的重塑。
OpenAI官宣GPT-6 Astra，AGI时代要来了吗
OpenAI官宣GPT - 6 Astra，自称‘世界上最聪明、对齐最好的模型’，总裁称迎来AGI时代。它成绩亮眼，能直接完成工作，达网络安全阈值，训练让AI深度参与，但价格较贵。