「人类偏好对齐」共找到 1411 篇相关文章
揭示隐藏联系：RLHF/DPO即对比学习！
大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。
颠覆搜索引擎，下一代Agentic Deep Research！12家顶尖学术机构联手提出
在信息获取方式变革背景下，12家顶尖机构联合发布论文提出Agentic Deep Research，它由大模型驱动，可自动规划检索路径等，或颠覆传统搜索范式，且有基准成绩和TTS Law支撑，开源生态也在聚焦。
72小时AI生存挑战，发生了什么？
五源发起72小时AI生存挑战，7位不同背景参与者在封闭空间，仅用AI工具和100元资金生存并创造。有人训练AI朋友，有人创作作品。过程中暴露诸多问题，也让大家看到AI能力边界与未来可能。
Lex Fridman 对谈谷歌 CEO：追上进度后，谷歌接下来打算做什么？
Lex Fridman 采访谷歌 CEO Sundar Pichai，探讨谷歌在 AI 竞赛中的逆袭、搜索和广告的 AI 模式转变、模型发展、AI 编程提效、AR 前景、自动驾驶挑战等，还谈及 AGI 及 AI 对人类的影响。
这一次，真不是狼来了，旧时代一夜终结「GPT-6 Astra与特斯拉Cybercab同日上线」
OpenAI总裁称迎来AGI时代。GPT - 6 Astra实现前所未有的对齐，理解意图大幅提升，能快速完成电脑上的事。投资人实验中，它用一句话构建微型文明。同日特斯拉Cybercab提供出行服务，旧时代或终结。
奥特曼最新深度访谈：AI至今没有iPhone时刻！
OpenAI首席执行官山姆·奥特曼在深度对谈中复盘大模型发展，谈及砍掉Sora和自研浏览器聚焦平台，认为AI缺iPhone时刻，还分享ChatGPT决策过程、创业经历，提出从成功学经验等观点，反驳末日论。
大厂的AI不限量补贴终会结束！Hermes Agent作者：开源框架真正的狠招是把Claude对Anthropic的忠诚抢过来
科技创作者 Peter Yang 对话 Hermes Agent 作者之一 Karan Malhotra，探讨 Hermes Agent 与其他产品的差异、模型谄媚问题、开源意义等。Karan 指出其独特自我改进系统与专注用户需求特点，还提及让模型更贴合用户的方法。
Claude杀入全美教室：一周干49小时的老师，终于等来免费AI助教
7月14日，Anthropic推出Claude for Teachers，向全美K - 12教师免费开放高级能力与教学技能库，接入50州课标。它能完成备课对齐、差异化分层、数据分析等工作，不碰学生端，定位是帮老师减负。
红杉高瓴投资，前美团民宿 CEO 联合伯克利教授，做了一只 AI 蘑菇
Sowii 推出潮玩「秃秃」，首批 3 万件两天售罄，后续预售超 20 万件。创始人冯威赫是前美团民宿 CEO，联合创始人是伯克利教授。该产品让用户对非人类对象产生关注并建立关系，探索数字生命新形态。
想进OpenAI？先解出这道题，百万美元算力已就位
OpenAI发起Model Craft Challenge「Parameter Golf」项目，要求在固定数据集上降验证损失，模型产物控制在16MB内，8张H100 GPU 10分钟完成训练。提供百万美元算力，6月招早期人才，挑战3月18日至4月30日。