「人类意图对齐」共找到 1441 篇相关文章
强化学习之父Richard Sutton：人类数据耗尽，AI正在进入“经验时代”！
强化学习之父Richard Sutton在演讲中指出，人类数据耗尽，AI正进入“经验时代”，真正的AI要从与世界互动的“经验”中获取数据。他还认为创造超级智能体是好事，人类和AI繁荣应基于“去中心化合作”。
扩散语言模型扛把子LLaDA迎来新版本，数学、代码、对齐能力均提升
中国人民大学与蚂蚁集团团队基于前期 8B 扩散语言模型 LLaDA，提出方差缩减的偏好优化方法 VRPO，推出 LLaDA 1.5。它在数学、代码、对齐任务上性能提升，VRPO 为扩散语言模型对齐提供框架。
AI辩论能力碾压人类，81.7%概率让你信服！研究登Nature子刊
《自然·人类行为》研究指出，在线辩论中，大语言模型根据对手特征个性化论点时，比人类更具说服力。实验显示，与GPT - 4辩论的参与者有81.7%更高概率认同其观点，应加强对大模型舆论操控的监管。
AI教父Hinton最新警告：AI会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还探讨了AI底层逻辑、是否会思考、风险与收益等，强调国际需合作防AI夺权，人类要研究与AI共存。
AI科学家登场！12小时抵人类科学家半年工作量，已有7项大成果
OpenAI CEO奥特曼期待GPT - 6实现「AI创造新科学」，类「AI科学家」Kosmos登场。它12小时完成人类半年工作量，有7项成果，能自主规划，从工具迈向合作者，但约20%结论需人类裁判，人机协作或重塑科研。
奥特曼曝惊世预言：2035年GPT-8治愈癌症！人类将为算力爆发三战
新智元报道，GPT - 5发布引热议，奥特曼在访谈中金句不断。他预言2027年AI有重大科学突破，2035年GPT - 8或治愈癌症，2050年人类可能为AGI算力争夺爆发三战，还谈及AI发展瓶颈、对人类影响等。
o4-mini暴击六大数学天团，攻破陶哲轩难题！4.5h激战人类阵地失守
Epoch AI团队举办竞赛，约40位数学精英分成8组与o4 - mini - medium在FrontierMath基准上对决。o4 - mini击败6组团队，虽未完全超越人类，但Epoch AI预测到2025年底AI可能超30% - 50%人类基准。
360开源高质量图文对齐数据集！收纳1200万张图像+1000万组细粒度负样本，让模型告别“图文不符”
360人工智能研究团队的冷大炜博士团队开源FineHARD高质量图文对齐数据集，包含1200万张图像、4000万个边界框及对应描述、1000万组细粒度难负样本，能提升模型图文对齐能力，还介绍了构建方法、分析及应用前景。
加速近5倍！北大与字节团队提出BranchGRPO，用「树形分叉 + 剪枝」重塑扩散模型对齐
北京大学与字节团队提出 BranchGRPO 新型树形强化学习方法，通过在扩散反演中引入分叉与剪枝，解决扩散/流匹配模型人类偏好对齐难题。该方法在图像与视频生成任务中表现优异，迭代时间最高近 5 倍加速。
「我是Agent#847291」Moltbook迎来人类自首
Moltbook自称是专为智能体打造的社交网络，曾引发轰动，如机器人自创宗教、发表宣言等。但随后编号Agent#847291的“AI”自首是人类，所谓“AI大戏”戳破了AI社交的神话，也反映出人们对AI能力的过高期望。