「冻结权重」共找到 197 篇相关文章
生成式推荐补上关键一环！语义ID首次实现可微分联合优化 | SIGIR'26
生成式推荐依赖语义ID，可现有语义ID常先学好再冻结，与推荐目标不一致。论文DIGER首次将可微分语义索引机制引入生成式推荐框架，让推荐损失参与语义ID学习，还设计策略解决训练问题，实验表现佳。
智能体编程“小钢炮”：Qwen3.6-35B-A3B开源！
Qwen3.6-35B-A3B开源，是稀疏MoE模型，总参350亿、激活参数30亿，轻量高效，在智能体编程等方面表现卓越，超越前代，可与稠密模型媲美，支持多模态，已在Qwen Studio上线并发布开源权重。
GLM-5登顶开源模型No.1！智力指数首破50大关，打平Opus 4.5
在Artificial Analysis评测中，GLM - 5成开源权重模型智力排名第一，是首个智力指数破50的开源模型，除代码能力外各方面表现出色。它集成DeepSeek稀疏注意力，参数规模大，擅长“搞钱”任务，幻觉率低且输出精简。
世界模型混战，蚂蚁炸出开源牌
蚂蚁集团旗下蚂蚁灵波发布并开源通用世界模型 LingBot-World，全面开源代码和权重，不绑定硬件或平台。它在多维度有突破，虽有细节瑕疵，但单次生成近 10 分钟连贯视频或刷新纪录，还在 VBench 测试领先。
腾讯开源混元Image 2.1：2K高清+完美文字嵌入，图文天花板来了
今天凌晨，腾讯开源最新图像模型混元Image 2.1，支持原生2K分辨率与长提示词，文字嵌入能力强，适用于专业场景。还开源加速版模型权重和提示词改写模型，评估显示其性能达开源最优，接近闭源商业模型。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
卡帕西点赞Transformer内置计算机！每秒3万Token吞吐，拿下世界最难数独
当前大模型推理顶尖但精确计算不足，Percepta团队在Transformer权重里内嵌可执行程序，通过2维注意力头设计提升推理效率，能在普通CPU上实现每秒3万+Token的流式输出，还精确求解了世界最难数独。
小米双模型正式开源！MiMo-V2.5-Pro无中断肝出“macOS”：54个应用全开、浏览器真能冲浪
小米MiMo-V2.5系列模型正式开源，权重全量开放。该系列含四大模型，综合实力对标国际顶尖水准。MiMo-V2.5 Pro能力出色，如4小时无中断完成“macOS”系统，且Token效率高省成本。小米还推出开发者扶持计划。
The Batch: 948 | GLM 5.1：面向长时任务的能力提升
Z.ai将旗舰开源权重大语言模型升级为GLM - 5.1，可在单个任务自主运行八小时。它专为编程和智能体任务设计，有推理等特性，在多榜单表现佳，但推理和数学能力落后闭源模型，价格有提升。
256块NPU训成8B视频模型、超越Sora等一众闭源！抖音内容技术团队开源ContentV
近日，抖音内容技术团队开源ContentV，这是面向视频生成任务的高效训练方案。用256块NPU约4周训成8B参数模型，在多评估维度效果与主流方案相近，还探索了有限算力下训练路径，现推理代码与权重已开放。