「置信度校准」共找到 355 篇相关文章
规范对齐：回答前的深思，让安全与行为边界更清晰
OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。
其实，扩散语言模型在最终解码之前很久，就已确定最终答案
随着扩散语言模型（DLM）发展，它成自回归（AR）模型有力替代。但实际推理慢于 AR 模型。研究者发现早期答案收敛现象，提出 Prophet 策略，实验显示其能在保持高质量生成时显著加速推理。
在场Vol.6 |《牛来》：粗糙什么时候能成为一种风格？
本期《在场》观察动画电影《牛来》，它因“粗糙”引热议，观众边吐槽边截图讨论其色彩与构图。文章借这一现象探讨“粗糙”与“风格”区别，还结合艺术史和AI时代分析作品完成度与风格的关系。
当代码江湖遇上智能副驾：一场开发效能的「御剑飞行」
文章以代码江湖为喻，介绍开发者困境，引出智能GitHub Copilot副驾驶。它能提升开发者工作满意度和代码编写效率，全球2000万开发者在用，微软还持续创新。11月14日将举办分享会探讨其应用。
AI编程里程碑！谷歌AI自己写代码惊呆工程师，GPU内核算法反超人类21%
谷歌AlphaEvolve的开源实现OpenEvolve自学写代码，在苹果芯片上进化出比人类快21%的GPU核函数。它自主发现多项优化策略，经多维度测试，性能显著提升，开启「AI为AI编程」新时代。
Agent 成大厂新“战场”？从同程旅行 DeepTrip 看垂类 Agent 的设计与落地实践
文章聚焦同程旅行推出的垂类旅行 Agent DeepTrip，介绍其设计与落地实践。它能降低旅行决策成本，构建旅行服务生态。团队基于多方面考量选 Agent 架构，还从多维度介绍实现方法及未来规划。
Claude Opus 5 发布，比 Fable 5 强，仅一半价格
Claude Opus 5发布，官方称其以一半价格提供接近Fable 5的智能。跑分显示它多数项目超Fable 5，ARC - AGI - 3成绩突出，还更省token，是Anthropic迄今对齐度最高的模型。
大模型最后一层竟是推理累赘？绕开对齐税，奥数准确率暴涨 22.4%！
Qwen团队等最新研究打破传统认知，揭示‘对齐税’现象。提出置信解码策略，在多架构、评测集上表现出色，能绕过‘对齐税’，提升推理准确率，且工程开销低，为大模型发展提供新思路。
让AI看懂科研图表：深势科技开源150万高质量科研图文数据集
深势科技开源OmniScience数据集，含150万个高质量图文对。它利用先进工具攻克图文提取难题，经严格筛选成型，涵盖多学科。还设计重写流水线提升图文语义契合度，基于此训练的模型表现优异。
定位大模型「作弊」神经回路！新研究首次揭示：虚假奖励如何精准激活第18-20层记忆
此前学术界发现大模型用虚假奖励训练也能提升准确率，背后微观机制是黑盒。南科大等团队深度拆解，定位到关键记忆节点，发现‘困惑度悖论’，还能操控记忆，成果对评估、检测和去污染有意义。