「对齐研究」共找到 2066 篇相关文章
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
程序员都在给AI当“监工”！7万多条编程消息揭开当前编程现状
圣母大学和范德堡大学研究团队剖析超7万条编程指令，揭示开发者与AI编程助手协作现状。开发者多当“监工”，工作从敲代码转向指导AI、诊断错误等，还总结出人机协同的诸多规律。
腾讯混元数字人团队发布Moral RolePlay基准，揭秘大模型的「道德困境」
腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准，评估大模型扮演多元道德角色能力，揭示顶尖AI模型演不好反派，暴露模型理解社会心理复杂性的局限，还给出未来对齐技术方向。
视频模型假装在推理？MME-CoF新基准评估12个推理维度
视频生成模型如Veo - 3能生成逼真视频，但推理能力存疑。香港中文大学等校研究者设计12项测试，发现模型只能模仿表面模式，未真正理解因果。研究推出MME - CoF基准，为评估指明方向。
DeepMind再登Nature：AI Agent造出了最强RL算法！
Google DeepMind团队提出DiscoRL，让智能体在多环境交互中自主发现强化学习规则，无需人类设计。它在Atari基准中击败MuZero，在未见过的游戏中也稳定高效，相关研究登《Nature》。
无需准确传感信号！轻松搞定「多段软体机械臂」复杂位姿与形状控制
研究人员提出利用双向循环神经网络（biLSTM）的MSCA规划与控制策略，即便用不准确内部传感信号也能完成任务。实验显示该方法在多任务中表现优异，未来还将做进一步研究。
好奇心之旅：Cursor代码库索引机制的学习笔记
作者作为高德信息工程团队AI先锋队一员，日常用Cursor开发，因好奇其代码库索引机制展开探索。介绍了Cursor索引工作流程、隐私安全等，还研究Merkle树、turbopuffer向量库及开源方案Continue。
Sora关停背后：为啥它没跑成“视频版ChatGPT”？
OpenAI Sora 宣布关停，评论区评价两极分化。其未成为“视频版 ChatGPT”，主要因踩中生成式 AI 最难的三件事：使用频率、成本结构和产品形态。关停或与 OpenAI 筹备 IPO 有关，未来 Sora 团队将推进世界模拟研究。
刚刚，Opus 5来了：性能不输 Fable 5、价格砍半
Anthropic 发布新一代模型 Claude Opus 5，其智能接近 Claude Fable 5 但价格减半。它在编程、知识工作等评测中表现出色，科研能力进步大，自主性与严谨性更强，安全对齐度高，防护兼顾安全与可用。
音画同步视频生成重磅开源！Character AI和耶鲁大学推出Ovi，让音、画在一个大脑里思考
Character AI和耶鲁大学团队推出开源模型OVI，它采用双骨干交叉模态融合架构，让音视频同步生成。其架构对称，用旋转位置嵌入技术对齐时间，训练策略分步进行，生成效果佳，为开源音视频生成提供新路径。