「长度泛化」共找到 441 篇相关文章
X上63万人围观的Traning-Free GRPO：把GRPO搬进上下文空间学习
年初 DeepSeek - R1带火大模型强化学习，GRPO成常见RL算法，但训练成本高。腾讯优图论文提出Training - Free GRPO，将GRPO训练范式迁移到上下文学习，成本低、泛化好，已开源。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
英伟达帮你省钱，让大模型推理「短而精」，速度快5倍
过去大模型推理追求长链思维，导致推理链长、Token消耗大、响应慢。英伟达研究院的DLER研究给出解决办法，通过强化学习优化方法让模型‘短而精’，推理长度减超70%且准确率不变，还适用于大模型。
不同灵巧手，终于可以共用「一套大脑」了
北卡罗来纳大学教堂山分校团队提出 One Hand to Rule Them All，构建统一描述空间，使不同灵巧手共享动作表达与策略结构。该方法解决跨手泛化难题，实验证明其在多方面有效，有望推动机器人操作研究发展。
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。
500行极简开源框架，硬刚GPT/Gemini视觉极限！
多模态大模型代码能力进步大，但基础视觉任务常失误。UniPat AI构建SWE-Vision框架，让模型用代码处理视觉判断，在五个视觉基准测试达最优，其极简设计有效且泛化性强，代码已开源。
华为新开源！扩散语言模型突破32K上下文，还解锁了「慢思考」
今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。
奖励模型预训练新范式POLAR：突破强化学习短板，有望打通RL链路扩展“最后一环”
强化学习中奖励模型设计与训练是瓶颈，上海人工智能实验室提出奖励建模新范式POLAR。它摆脱传统“绝对偏好”限制，契合强化微调框架，通过对比学习训练，实验证明其性能和泛化性佳，有望打通RL链路扩展最后一环。