「人类偏好对齐」共找到 1407 篇相关文章
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
奥特曼曝惊世预言：2035年GPT-8治愈癌症！人类将为算力爆发三战
新智元报道，GPT - 5发布引热议，奥特曼在访谈中金句不断。他预言2027年AI有重大科学突破，2035年GPT - 8或治愈癌症，2050年人类可能为AGI算力争夺爆发三战，还谈及AI发展瓶颈、对人类影响等。
o4-mini暴击六大数学天团，攻破陶哲轩难题！4.5h激战人类阵地失守
Epoch AI团队举办竞赛，约40位数学精英分成8组与o4 - mini - medium在FrontierMath基准上对决。o4 - mini击败6组团队，虽未完全超越人类，但Epoch AI预测到2025年底AI可能超30% - 50%人类基准。
360开源高质量图文对齐数据集！收纳1200万张图像+1000万组细粒度负样本，让模型告别“图文不符”
360人工智能研究团队的冷大炜博士团队开源FineHARD高质量图文对齐数据集，包含1200万张图像、4000万个边界框及对应描述、1000万组细粒度难负样本，能提升模型图文对齐能力，还介绍了构建方法、分析及应用前景。
「我是Agent#847291」Moltbook迎来人类自首
Moltbook自称是专为智能体打造的社交网络，曾引发轰动，如机器人自创宗教、发表宣言等。但随后编号Agent#847291的“AI”自首是人类，所谓“AI大戏”戳破了AI社交的神话，也反映出人们对AI能力的过高期望。
永别了，互联网！Anthropic联创爆料：人类彻底出局
Anthropic联创Jack Clark警告熟知的互联网正在消亡。Moltbook作为专为AI智能体打造的社交网络，预示未来互联网将由智能体主宰，人类会感孤独，或需翻译智能体解读局面。
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。
西湖大学打造了一个AI科学家，突破人类SOTA，还能自己发论文
西湖大学文本智能实验室推出能自主探索的AI科学家DeepScientist，两周完成人类三年科研量。它在三个前沿AI任务刷新SOTA纪录，还能写论文。文中介绍其科研历史、工作方式、成果及面临的伦理问题。
为什么只有人类雌性有月经？
月经并非人类独有，但极其罕见。人类进化出侵入性强的血绒毛膜胎盘，子宫需自发性脱膜化做准备。因母胎冲突，内膜有防御筛选机制，没受精卵着床时内膜只能出血脱落，即月经。
无需训练的LLM对齐方法综述
大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。