「人类偏好对齐」共找到 1413 篇相关文章
华为刚投的物理AI：首家国产世界模型公司
华为哈勃联合华控基金对极佳视界进行亿元级A1轮投资。该公司是国内首家“纯血”物理AI公司，产品覆盖全栈软硬件，应用于自动驾驶和具身智能。华为偏好世界模型技术，此次投资信号明显。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
阿里发布Qwen3-TTS：跨语言混合无缝切换，方言音色全面覆盖！
TTS技术从单一合成进化到多模态表达，但传统模型在跨语言/方言混合场景有不足，商业工具费用高且不开源，开源方案训练数据少。阿里推出Qwen3 - TTS，实现人类级自然度和表现力，功能强大，应用场景多。
理解帮助生成？RecA自监督训练让统一多模态模型直升SOTA
统一多模态模型在视觉理解和生成能力上不平衡，常理解强但生成弱。本文提出重建对齐（RecA）自监督后训练方法，不改动架构，用未标注图像训练，在多模型实验中提升性能，部分达SOTA。
OneSearch，揭开快手电商搜索「一步到位」的秘技
本文介绍快手提出的电商搜索端到端生成式框架 OneSearch。它有三大创新，包括 KHQE 模块、用户行为序列注入策略、偏好感知奖励系统。实验显示它在多方面提升显著，已部署于快手电商搜索场景。
突破LLM数据瓶颈：Meta等提出语言自我博弈，一台模型，两个角色，无限进化
Meta等团队提出“语言自我博弈”（LSP）框架，让语言模型自己和自己“玩游戏”，在无外部数据输入下自我改进。实验显示，其性能可媲美甚至超越用大量人类数据训练的模型，为缓解数据稀缺提供新思路。
Computer Use：莫拉维克悖论
2025年AI在数学证明等“高阶智能”任务表现佳，在“像人类一样使用电脑”任务却受挫，再现莫拉维克悖论。文章分析计算机使用智能体是实现AGI机会与挑战，指出发展难题、探讨RL作用并给出研究方向。
1亿美元买不走梦想！但只因奥特曼这句话，他离开了OpenAI
全球AI军备竞赛烧掉3000亿美元，但真正研究「对齐问题」的人不足千人。Anthropic核心成员Benjamin Mann揭秘，2020年底OpenAI安全团队因安全优先级降低集体出走。他拒绝扎克伯格1亿美元邀约，强调AI要把安全放首位。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
最大开源第一视角数据集 EgoLive 来了，名校站台、近百家机构争相申请
今年4月京东开源业界最大人类第一视角数据集EgoLive，已获近百家机构申请。它用自研设备采集，经多模态处理，覆盖多场景任务。其数据用于JoyAI - RA训练，在真实场景验证效果好，还推动具身智能数据标准化。