「偏好对齐」共找到 277 篇相关文章
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
告别「面瘫」配音，InfiniteTalk开启从口型同步到全身表达新范式
传统video dubbing技术有局限，新兴模型也有问题。美团视觉智能部研发的InfiniteTalk引入‘稀疏帧video dubbing’，实现口型、表情、肢体与音频自然对齐，解决长视频生成难题，技术已开源。
BLIP3-o统一图像生成与理解，多模态融合趋势显现
BLIP3 - o致力于统一图像理解和生成，提升生成质量与效率。它融合自回归和扩散模型，采用CLIP + Flow Matching架构等。经训练，在图像理解和生成任务表现佳，指令微调效果显著。
对话 Ruby on Rails 之父：发自内心恨透 Copilot，手凿代码才是程序员的乐趣
传奇程序员 DHH 做客播客，深入探讨世界观。他虽用 AI 学习，但担忧 AI 编程助手致技能退化，‘恨透’它。还谈及编程经历、语言看法、架构偏好、商业哲学等，观点鲜明，引发关注。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
一个开源平台，编织起了Agent「互联网」
如今 Agent 单体能力强但系统分散，开源平台 Octo 应运而生。它由明略科技打造，可聚合 Bot，让其成为企业级资产。Octo 重写协作，有 Matter 沉淀任务，塑造 Taste 让 Agent 更懂用户，还有六种协作模式。
AI 时代的架构治理
本文指出在生成式AI时代，软件开发生命周期瓶颈转变为组织将创意转化为成果并保持架构凝聚力的能力。传统人工监督模式难应对，提出声明式架构策略，介绍其在事件模型、OpenAPI验证器等方面应用。
港大赵恒爽团队论文：让扩散模型既拿高分又不「作弊」丨CVPR 2026
扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。
OpenAI开除内鬼！拿着改变世界的机密去赌博，一夜狂赚几十万
OpenAI开除一名利用公司核心机密在预测市场下注牟利的员工。调查发现过去一年多，60个神秘钱包做出77次精准押注。不止OpenAI，其他预测市场平台也出现内幕交易案件，平台陷入尴尬处境。
DeepSeek-R2要来了？
DeepSeek-R1发布一周年之际，其存储库更新引用全新「model 1」模型，极可能是R2。HuggingFace发文称R1降低技术、采用、心理三重壁垒。R1以推理优先，改变多项认知，故事仍在继续。