「人类偏好对齐」共找到 1411 篇相关文章
Anthropic 在 Claude 内部发现"全局工作空间"，可以直接读取模型没说出口的想法
Anthropic发布研究，在Claude内部发现J - space（雅可比空间），即“全局工作空间”，它在训练中自发形成。用雅可比透镜技术可读取其内容，还验证了其功能属性，可用于对齐审计等。
斯坦福423页AI报告出炉！中美差距仅2.7%，清华DeepSeek冲进全球前十
斯坦福发布「2026年AI指数报告」，长达423页，揭示全球AI产业版图。指出中美AI模型性能差距仅2.7%，AI发展迅速但人类管控能力未跟上，还呈现出就业、算力、应用等多方面趋势。
0行人类代码！OpenAI内部绝密实验曝光：3人团队5个月砸出百万行级产品
OpenAI工程团队进行内部实验，构建并发布零人类代码的内部软件产品，代码全由Codex智能体编写。团队分享开发经验，如重新定义工程师角色、让应用对智能体可见等，还面临一些未知挑战。
如何改变AI研究范式？谷歌DeepResearch新方法TTD-DR原理与实现 | 原理篇
谷歌提出新的DeepResearch方法TTD - DR，它模拟人类研究范式，将Agent起草的初稿视为‘含噪声输出’，经多轮检索 - 改进使初稿成高质量终稿，还引入自进化机制，测试显示其在复杂任务上领先。
Hinton突然对AGI乐观了！“Ilya让他看到了什么吧…”
Hinton接受独家访谈，将AI风险分短期和长期，认为长期是AI接管人类。他观点大转变，从“养虎为患”到提出赋予AI“母性本能”实现共存，还批评马斯克和奥特曼，看好AI医疗应用。
面对无解问题大模型竟会崩溃？港中文&华为联合提出首个大模型推理可靠性评估基准
港中文和华为诺亚实验室联合提出ReliableMath基准，探究大模型推理可靠性。提出评估准则，构建含可解与不可解问题的ReliableMath数据集，实验揭示大模型缺陷，还提出提高可靠性的对齐策略。
数学家24小时驳回OpenAI攻破的猜想！“AI证对了每句话，但已跟原猜想无关”
OpenAI宣称其下一代AI模型推翻了Connes刚性猜想，第二天堪萨斯大学的J. L. Nielsen就发文回应，指出AI构造的群不满足附加条件，还逐行核对代码指出‘要证什么’有问题，强调人类审查对AI科研结果很关键。
微软 CEO 纳德拉：离了 AI 软件开发没法想！编程如诗都是“压缩”。社区：必须拥抱变化。
微软CEO纳德拉在访谈中表示，如今软件开发离不开AI，AI编程已成标配。他强调AI本质是赋能人类的工具，还提及AI普及挑战，同时保持对AI局限性的清醒认知，分享领导哲学与诗意展望。
工业级文本转SQL新思路：成本暴降、超3000列超大数据库依然稳健
华中科大与复旦联合发布AutoLink框架，引入自主智能体，模拟人类工程师工作流。在不输入全量数据库模式下，实现对超大规模数据库模式的高精准链接与筛选，以低Token消耗刷新两大榜单纪录。
提前实测Opus 5：3D细节封神，然而有一个致命缺陷
全网苦等Opus 5，结果其暂缓发布，理由是怕威胁人类对高级AI的控制，遭网友怒批。部分开发者提前实测，它3D细节表现出色，但耗token且看图测试翻车，原定有诸多强大特性。