「对齐问题」共找到 3346 篇相关文章
从 Prompt 到 Context：基于 1400+ 论文的 Context Engineering 系统综述
本文围绕Context Engineering展开，介绍其定义、与Prompt Engineering区别，从LLM OS视角说明其重要性，指出context处理不当的问题，对其分类及处理管理过程进行探讨，还提及面向LLM Context开发的变化。
AI 写 80%，人修最后 20%：这是什么新赛道？“ AI 代码补锅匠 ”了解一下。
Vibe Coding 成 2025 年 AI 驱动开发核心趋势，强调用自然语言提示让 AI 生成代码。虽可提升效率，但 AI 生成代码有质量、安全等问题，催生付费修复服务，未来“AI+专家”模式或成主流。
推理路径的动态调控：让大模型学会“恰到好处”的思考
当前大模型推理路径存在冗余问题，本文提出测试时提示干预框架PI（π），通过《When/How/Which》三模块协同，将人类专家经验融入推理过程，在多个STEM基准测试中缩减推理步骤、提升准确率。
本周推荐的6个超级6的Github开源项目！
本文推荐6个Github开源项目。有Git效率神器Lazygit、美团前端日志系统Logan、解密工具Ciphey等，各项目功能强大，如Lazygit操作便捷，Logan可助定位端上问题，Ciphey能一键解密。
Auto-Research「终极大考」：新基准撕下大模型科研伪装
来自多所高校的研究者提出MLS - Bench，用于解决现有Auto - Research评测的归因问题。它含140个真实研究任务，校准受控修改范围，主实验显示当前模型在方法发现上有明显缺口，Auto - Research需更严格评测标准。
刚刚，Opus 5来了：性能不输 Fable 5、价格砍半
Anthropic 发布新一代模型 Claude Opus 5，其智能接近 Claude Fable 5 但价格减半。它在编程、知识工作等评测中表现出色，科研能力进步大，自主性与严谨性更强，安全对齐度高，防护兼顾安全与可用。
具身智能稀缺的数据，可能藏在这个游戏手柄里？
游戏录屏平台Medal掌握的玩家操作记录成机器人模型训练核心数据。其创始人皮姆创办General Intuition获高额融资，该公司用游戏录像预训练动作模型，但也面临数据多元性、任务表现及合作模式等问题。
Agent搜索哪家强？人大高瓴&快手联合发布全新评测基准GISA
人大高瓴与快手联合发布全新评测基准GISA，用于评估智能体搜索能力。它解决了现有基准反向构造、评估维度单一、答案易被记忆等问题，含373个高质量查询，实验显示当前搜索智能体距人类水平差距大。
音画同步视频生成重磅开源！Character AI和耶鲁大学推出Ovi，让音、画在一个大脑里思考
Character AI和耶鲁大学团队推出开源模型OVI，它采用双骨干交叉模态融合架构，让音视频同步生成。其架构对称，用旋转位置嵌入技术对齐时间，训练策略分步进行，生成效果佳，为开源音视频生成提供新路径。
如何实现可验证的Agentic Workflow？MermaidFlow开启安全、稳健的智能体流程新范式
随着大语言模型发展，多智能体系统成新前沿，「Agentic Workflow」受关注。但现有系统存在合理性难保证等问题。新加坡和南洋理工团队推出MermaidFlow，以Mermaid语言显式建模工作流，提升可解释性与可控性，实验性能优秀。