「权重外推」共找到 840 篇相关文章
R1/Qwen训练新范式：无需继续训练，直接“算”出权重，提效500%
DeepSeek - R1爆火让RLVR成大模型后训练焦点，但训练代价高昂。学者发现RLVR中LLM权重和输出概率呈线性变化，提出“权重外推”等方法，实现最高6.1倍训练加速，RL - Extra在多榜单展现高效率。
LLM的RL训练轨迹竟然是线性的？Miaow Lab｜新工作：无需继续训练，直接“预测”未来模型！
文章介绍《Not All Steps are Informative: On the Linearity of LLMs' RLVR Training》，揭示RLVR训练中LLM权重和输出概率线性变化，提出“权重外推”法，可实现6.1倍训练加速，还介绍三种策略及实验结果。
拟合接近满分，外推却会跑偏：Meta 给缩放律加了一个指数
大模型训练前，团队常用 Chinchilla 缩放律估算模型规模和数据量，但它在模型和数据极不平衡的边界预测易跑偏。Meta FAIR 提出的 Skaling 只增加一个耦合指数，降低外推误差，还采用 L 形采样降低试算成本。
阿里Qwen又悄悄放出8个开源权重，卷疯了~
阿里通义千问太卷，悄悄放出8个开源模型权重，包括体积更小的Qwen3-VL及FP8权重。这一代实现全方位升级，提供两种架构、两个版本，架构也有更新，还给出使用示例与模型权重链接。
图解Vllm V1系列4：加载模型权重(load_model)
文章聚焦vllm加载模型权重的流程。从入口函数切入，详细分析DefaultModelLoader的工作步骤，包括初始化模型架构和实际加载权重，还给出各步骤代码及作用，为想操作load_model的人提供框架。
3D生成告别「穿模」噩梦！VASTx清华将蒙皮权重Token化，统一生成骨骼与权重，GRPO微调形变平滑
3D模型生成容易，让它“动起来”难，传统AI蒙皮算法有局限。SkinTokens研究将蒙皮权重离散化，构建TokenRig框架，引入GRPO算法，提升了AI自动绑定精度和泛化能力，助力3D动画自动生产。
具身数采，为什么开始重视外骨骼手套？
本文围绕具身智能数据采集行业痛点，探讨外骨骼手套兴起的原因，分析传统数采方案的不足，介绍外骨骼硬手套的技术路线与同构设计方案，点明高精度触觉数据是下一阶段行业稀缺资源。
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
Scaling Law 仍然成立，企业搜广推怎么做才能少踩“坑”？
InfoQ《极客有约》X AICon 直播邀请京东颜林等探讨生成式推荐落地洞察。指出搜广推场景 scaling law 成立且在上升，还分享大模型对搜广推的改变、架构成长方式，及平衡成本等方面的经验。
千问7B生图模型开放权重！3090就能跑，2K出图修图抠图全包
千问开放了7B参数的Qwen-Image-2.1生图模型权重，单张RTX 3090即可运行，一套模型覆盖文生图、修图、抠图、2K原生输出、透明图生成全需求，网友实测效果出色，该模型已登上Hugging Face文生图趋势榜第一，目前权重仅开放非商用授权。