「权重收敛」共找到 237 篇相关文章
「重要性采样」并不「重要」？快手清华ASPO攻克重要性采样权重错配
快手与清华合作团队发现大语言模型结果监督强化学习中，重要性采样机制“失灵”，存在权重错配现象。为此提出算法ASPO，在多基准测试中展现优势，训练更稳定。
The Batch: 954 | Kimi K2.6 挑战开源权重模型领先者
Moonshot AI升级后的Kimi K2.6是1万亿参数的视觉 - 语言模型，专为代码生成设计，性能与Qwen3.6 Max Preview等相当，略逊顶级闭源模型。其功能多，幻觉率低，模型权重可免费下载。
冻结模型权重，Agent还能持续进化：ModularRSI探索Harness自我改进
IQuest Research联合北京航空航天大学、曼彻斯特大学等机构发布ModularRSI研究，探索在基础模型权重冻结的条件下，通过演化Agent外围运行机制Harness，实现可泛化的Agent自我改进，性能提升可跨任务、领域、模型迁移。
0.01%参数定生死！苹果揭秘LLM「超级权重」，删掉就会胡说八道
苹果研究人员发现大模型中极少量的「超级权重」，即便占比仅0.01%，对模型能力影响巨大。这一发现为大模型「科学瘦身」提供思路，还提出定位方法，助力模型量化和未来研究。
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
刚刚，阿里Qwen3.6又悄悄放出4个开源权重，卷疯了
继今年2月发布Qwen3.5系列后，阿里推出Qwen3.6多个开源权重版本。Qwen3.6优先保障稳定性与真实场景可用性，为开发者提供更好编码体验。介绍了Qwen3.6 - 27B和Qwen3.6 - 35B - A3B亮点。
Elad Gil：AI 应用进入收敛期，比模型跑得快才能抓住红利
硅谷AI投资人Elad Gil回顾AI领域投资，指出AI应用进入收敛期。基础模型头部梯队明显，格局难改；GPT-ladder带来新机会；应用端理解痛点、构建工作流的团队更有优势，AI Agent重塑商业模式。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
LLM已能自我更新权重，自适应、知识整合能力大幅提升，AI醒了？
近期，AI自我演进话题研究讨论渐热。OpenAI奥特曼畅想AI自我改进未来，有爆料称其内部运行递归式自我改进AI。MIT论文提出SEAL框架让LLM自我更新权重，引发热议，实验显示其有提升但也有局限。
基础模型又一关键拼图，腾讯混元发布训练新范式「无相」：引入功能性记忆，打破静态权重枷锁
腾讯混元团队发布HY - WU范式，打破静态权重束缚，引入功能性记忆，实时生成个性化参数。应用于图形编辑基模效果好，在图像编辑任务表现优秀，还对未来AI架构提出多方面展望。