「反馈对齐」共找到 466 篇相关文章
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
总成本降低30倍，告别昂贵后训练，在线策略蒸馏敲开大模型后训练的未来
明星公司Thinking Machines由前OpenAI首席技术官联合创立，其研究团队提出在线策略蒸馏的LLM后训练方法。该方法结合在线策略训练与蒸馏优势，解决后训练两难困境，成本降30倍，还为持续学习和个性化打开新大门。
OpenAI版抖音要来了！Sora 2加持，只能发AI生成视频
OpenAI正为视频生成模型Sora 2推独立社交应用，形态似TikTok，内容须AI生成，不可上传外部媒体。有独特身份验证功能，已内部测试获积极反馈，将与Meta、Google、TikTok竞争。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
告别「面瘫」配音，InfiniteTalk开启从口型同步到全身表达新范式
传统video dubbing技术有局限，新兴模型也有问题。美团视觉智能部研发的InfiniteTalk引入‘稀疏帧video dubbing’，实现口型、表情、肢体与音频自然对齐，解决长视频生成难题，技术已开源。
Oxlint 1.0 稳定版发布：基于 Rust 的 JavaScript 静态检查器
Oxlint是基于Rust的JavaScript和TypeScript静态检查器，其1.0稳定版发布。它有快速检测、规则覆盖广等特点，性能比ESLint高50 - 100倍，能处理多文件规则，开发者反馈积极。
Genie 3，让幻觉持续成为现实
Google最新发布的Genie 3能从文本生成交互式世界，实现24fps实时交互，分钟级一致性，720p分辨率。它取长补短，有出色记忆能力，物理表现自然，还能让智能体完成任务。不过目前是有限预览，有不足。
3D-R1重塑三维视觉语言推理！让三维交互更智能
近年来，视觉 - 语言模型在2D图像理解有突破，但3D视觉语言模型面对复杂场景不足。为此上海大学团队提出3D - R1模型，它基于新数据集和策略构建，有强多任务三维理解能力，不过也存在进步空间。
EvaLearn：AI下半场的全新评测范式！
OpenAI研究员指出传统基准测试难衡量AI实际效用。复旦大学与字节跳动等团队提出全新评测范式EvaLearn，以连续问题求解为核心，构建问题并设评分标准，对九个前沿大模型研究有诸多发现。
推出4个月就狂赚3亿？！百万用户应用CTO弃Copilot转Claude Code：200美元拯救我的137个应用
Anthropic 公司推出的 AI 编码助手 Claude Code 推出 4 个月吸引 11.5 万开发者，单周处理 1.95 亿行代码，年化收入预估达 1.3 亿美元。开发者认为它优势明显，Soham 级别的生产力，还分享使用技巧。