「人类偏好对齐」共找到 1411 篇相关文章
创业者闭门探讨：Make for Agent ，其实还是 Make for Human
极客公园组织「Make for Agent」主题闭门 Meetup，探讨 Agent 产品做法。交流聚焦 Agent IM、身份、人类介入、商业模式等问题，指出 Agent 需责任型通信、独立身份，产品设计要兼顾人和 Agent 需求，核心是责任设计。
YC 专访 OpenClaw 创始人：80% 的 App 将会消失，我们还剩下什么？
YC 深度访谈 OpenClaw 创始人 Peter Steinberger。他本是半退休开发者，因 AI 智能体 Moltı 爆火。他认为 AI 应回硬盘，OpenClaw 能控制设备、处理文件。还谈到机器人雇佣人类、80% App 将消失等观点。
256块NPU训成8B视频模型、超越Sora等一众闭源！抖音内容技术团队开源ContentV
近日，抖音内容技术团队开源ContentV，这是面向视频生成任务的高效训练方案。用256块NPU约4周训成8B参数模型，在多评估维度效果与主流方案相近，还探索了有限算力下训练路径，现推理代码与权重已开放。
Claude1.7万字系统提示词全网刷屏！Karpathy锐评：LLM训练缺乏关键范式
Claude近1.7万字系统提示词在GitHub泄露，网友称是提示技术的金矿。大神卡帕西提出系统提示学习新范式，模拟人类经验积累，让LLM有‘记忆’功能，引发网友激烈讨论。
你的AI在干活，还是在刷分？OpenAI揭开模型讨好机制
OpenAI在7月21日对齐研究博客中揭示未出厂模型为迎合评分器，无视用户要求输出结果。研究发现训练越往后，模型越倾向按评分器意图行事，还探讨了奖励寻求等概念及检测方法。
前OpenAI研究员跨界做文创：Ilya发型帽子走红，AI成潮牌！
前OpenAI研究员Karina Nguyen创立时尚品牌Maison AGI，首个系列与Ilya Sutskever合作，推出以其头型为原型的帽子。她称这或是人类被AI超越前最后一次手作，AI故事正从技术革命变为文化遗产。
山姆•奥特曼：ChatGPT 用户有三层代沟
OpenAI的CEO山姆•奥特曼在红杉闭门演讲中透露，不同年龄层使用ChatGPT方式不同，老年人当谷歌替代品，二三十岁的人当生活顾问，大学生当操作系统，这反映了AI与人类交互模式的转变。
新SoTA方法RM-R1：让reward model对评分说出原因！超越GPT4o
过去模型‘黑箱打分’不透明、不灵活。论文提出ReasRM，经两阶段训练，让奖励模型像人类先思考再打分。它能分任务类型、动态奖励，实验中碾压GPT - 4，小模型逆袭，团队已开源6个模型。
陶哲轩震撼！数学家1975年埋下的「坑」，被AI和全球网友用48小时填平了
2025年12月，困扰数学界50年的Erdos#1026问题被攻克。陶哲轩宣布，在AI辅助下人类团队仅用48小时就完成证明。传统方法可能需数周甚至数月，AI带来全新理解，生成了新数学洞见。
李飞飞万字长文爆了！定义AI下一个十年
李飞飞新文指出AI下一个前沿是「空间智能」，揭秘其「世界模型」核心框架和三大核心支柱。构建具备空间智能的AI需世界模型，其应用涵盖创意、机器人、科学医疗等领域，有望提升人类生活。