「对齐方法」共找到 1719 篇相关文章
OpenAI波兰双雄：GPT不是偶然！再忆奥特曼被逐当天实况
OpenAI宫变时，Jakub Pachocki与Szymon Sidor力助奥特曼翻盘。他们高中相识，因AlphaGo加入OpenAI。ChatGPT并非偶然，是团队深耕成果。二人推动推理模型发展，强调AGI发展中对齐问题重要，要兼顾能力与安全。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
英伟达帮你省钱，让大模型推理「短而精」，速度快5倍
过去大模型推理追求长链思维，导致推理链长、Token消耗大、响应慢。英伟达研究院的DLER研究给出解决办法，通过强化学习优化方法让模型‘短而精’，推理长度减超70%且准确率不变，还适用于大模型。
锁定角色，「多主体」也可控！个性化文生图，给你PS般交互体验
LayerComposer革新个性化图像生成，能让用户如在Photoshop般操控元素位置、大小，解决传统方法交互性与多主体扩展难题。它有分层画布、锁定机制、模型–数据共设计三大特点，实验表现出色，未来将促进人机协同创作。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
微调重要表征以增强思维链的推理能力
团队提出关键表征微调（CRFT）方法，通过信息流分析识别和优化关键表征。在八个数学和常识推理基准及两个模型系列验证其有效性，能提高推理准确率，学习参数量低，还适应少样本场景。
炸裂！Claude以第一作者写论文反驳苹果「推理模型根本没有推理能力」：苹果有三大错误
苹果论文称推理模型无推理能力，引发争议。Anthropic的Claude Opus以第一作者写论文反击，指出苹果研究有混淆‘推理失败’与‘输出截断’等三大问题，还通过实验证明模型能力，强调需更聪明评估方法。
为什么你的 AI Coding 账单越涨越快？十个节约 Token 的工程办法。
文章指出今年大模型Token账单涨得快，尤其AI编程重度用户。从工程角度总结降低Token消耗的方法，如上下文清场、代码导航等，还分析AI Coding的Token变贵原因及各方法适用边界。
ACL 2026 综述：从事后解释到内生解释，大模型内生可解释性的前沿进展
大语言模型强大但解释性成问题，过去多事后解释，现更多研究者转向内生可解释性。ACL 2026 接收的综述论文梳理相关代表方法，总结为五类核心设计范式，指出该方向面临挑战但趋势清晰。
The Batch: 849 | 用于训练网页智能体的生成数据
开发网页智能体常需大量人力标注训练样本，卡内基梅隆大学与亚马逊团队实现训练数据生成自动化。他们构建数据集，通过智能体工作流程生成数据，微调后 Qwen3 - 1.7B 表现出色，还公开数据与方法。