「量化感知训练」共找到 2560 篇相关文章
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
68页论文再锤大模型竞技场！Llama4发布前私下测试27个版本，只取最佳成绩
《排行榜幻觉》论文指出Chatbot Arena存在问题，如少数大厂私下多版本测试选最优、数据访问不平等、用Arena数据训练可提性能、模型被大量静默弃用等，研究团队给出改进建议，官方也进行了回应。
拟合接近满分，外推却会跑偏：Meta 给缩放律加了一个指数
大模型训练前，团队常用 Chinchilla 缩放律估算模型规模和数据量，但它在模型和数据极不平衡的边界预测易跑偏。Meta FAIR 提出的 Skaling 只增加一个耦合指数，降低外推误差，还采用 L 形采样降低试算成本。
国产GPU开始造世界！国内首个全栈具身智能仿真平台来了
摩尔线程发布国内首个全栈国产化具身智能仿真平台MT Lambda，实现Sim-to-Real真机验证。该平台像物理AI训练流水线，集成物理、渲染、AI引擎。其依托全功能GPU和MUSA架构，还构建了云端、端侧、生态闭环。
当机器人学会「看」和「说」之后，如何让它们真正拥有「手感」？
今年四月，戴盟机器人联合多家机构发布含触觉全模态具身数据集 Daimon-Infinity 并开源 10000 小时数据。IEEE 与戴盟联合创始人王煜教授深度对话，探讨触觉感知对机器人技术格局的影响、具身机器人落地场景等问题。
小模型用不好Skill？新范式让模型学会Skill的底层逻辑，3B模型推理token省5倍，性能反超
浙江大学联合美团龙猫团队、清华大学推出SKILL0，提出技能内化思路。它在训练中引入关键机制，让小模型把技能内化到参数里。实验显示，其效果出色，token效率高，为小模型成领域专家提供新方向。
CVPR 2026 | 还在为AI「鬼画符」发愁？TextPecker即插即用破解文字渲染难题
在生成式AI浪潮中，视觉文本渲染仍是未攻克的核心难题。华中科技大学白翔教授团队等提出TextPecker，是基于结构感知的即插即用型强化学习优化策略，可适配主流生成器，提升视觉文本渲染性能，已被CVPR 2026接收。
ChatGPT本来要5天后关掉
翁家翌在播客透露，起初推出ChatGPT是为收集用户数据，预期5天后关闭。他是OpenAI多代大模型发布贡献者，还分享了OpenAI内部情况，如模型训练、迭代速度等问题，也谈及自身经历和对AGI看法。
让大模型学会“像人一样”查证真伪
伊利诺伊大学香槟分校等校研究团队提出训练框架Veri - R1，为大模型提供“在线查证”新范式。它借助在线强化学习、精细化奖励机制和高质量数据，让模型学会像人一样查证，在多数据集上表现出色。
社区供稿丨MiniCPM-V 4.5 技术报告正式出炉
上个月开源的多模态模型 MiniCPM-V 4.5 广受好评，今日其技术报告出炉。报告从架构、数据和训练三方面探索高效路径，提出三大技术，使模型在多任务上突破，小参数规模下性能和推理速度佳。