「对齐问题」共找到 3346 篇相关文章
图灵奖得主Sutton再突破：强化学习在控制问题上媲美深度强化学习？
图灵奖得主Richard S. Sutton认为未来AI发展需靠强化学习。他将2024年的SwiftTD算法拓展到控制领域，提出Swift - Sarsa算法，还设计操作性条件反射基准测试。实验显示，结合预处理方法，其性能或媲美深度强化学习。
ICML 2025 | 大模型能在信息不完备的情况下问出正确的问题吗？
当前大语言模型推理研究多聚焦被动推理，主动推理研究少，制约其在现实场景应用。为此提出 AR - Bench 基准评估大模型主动推理能力，实验显示大模型主动推理能力严重不足，并指出后续拓展方向。
Cloudflare 发现了 hyper HTTP/1 实现中的竞态条件问题并进行了修复
Cloudflare记录开发团队发现并修复Rust常用HTTP库hyper中的罕见漏洞，该漏洞可能截断大型HTTP响应，已在上游修复，引发Rust从业者对事件及处理方式的讨论。
维纳智能登上Nature通讯：AI不只会回答问题，开始生成高精度行业数据
维纳智能登上Nature通讯，其让大模型自动生成高精度推理数据，用闭环反馈驱动专业Agent自主演化。该公司在多领域交出工业级精度答卷，还解决了Agent泛滥的困局，推出多款创新产品。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
监管叫停外资收购Manus背后，有一个被忽视的关键问题｜甲子光年
4月27日，国家发改委叫停外资收购Manus项目。该项目从2025年12月Meta宣布收购起备受关注。此次监管选择外商投资安全审查路径，预示AI时代监管侧重技术控制权，也可能加速VIE架构消亡。
智能体自己出现问题自己找！首次提出“自动化失败归因”课题 | ICML2025 Spotlight
LLM Multi - Agent系统失败诊断难，阻碍迭代优化。宾夕法尼亚州立大学等机构研究者首次提出“自动化失败归因”课题，构建Who&When数据集，开发评估多种归因方法，实验揭示当前方法不足。
她拒了贝索斯，离开黄仁勋，只为回答一个问题：AI能学会物理世界吗？
近日，AI初创公司Accelerated Understanding亮相，由Anima Anandkumar夫妇创立。它未随主流，目标是训练模拟物理现象的通用AI模型。该模型处理数据规模大，公司想解决AI验证瓶颈，产品面向科研工程机构。
AI给你的总是平庸答案?5.8万星插件证明:问题不在模型,在你
GitHub上5.8万星的`taste-skill`仓库，无模型代码，仅用文本规则让AI编程工具输出更有品味。揭示AI默认给平庸答案是概率采样结果，还给出反中位数三问及AI时代变贵的是判断力。
Anthropic让9个Claude Agent花5天做出比人类强4倍的对齐成果
Anthropic发表Automated Weak - to - Strong Researcher，用9个并行的Claude Opus Agent组成自动化研究团队，5天就把PGR从人类的0.23提升到0.97，成本约$18,000，证明AI自动化研究可行。