搜索：自蒸馏策略优化

「自蒸馏策略优化」共找到 2071 篇相关文章

大模型进入研发体系后，我们看到了这些变化

InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师探讨大模型入研发体系的变化。指出其在提效、协作、分工上作用大，还分析了适用场景、工程师收益类型及核心竞争力等，也提及效率评估、代码生成等问题。

文章指出一些人认为多模态方法能实现AGI，但作者觉得此策略会失败。真正的AGI要理解物理世界，而LLMs只是记忆规则。此外，规模最大化方法用于AGI有数据稀缺问题，多模态建模也存在诸多问题。

向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。

论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。

开源君介绍超火的开源项目`chatgpt-on-wechat`（CoW），它结合大模型与社交、办公平台，可定制优化。能接入多平台，支持多模型，处理多模态消息，有丰富插件，还能记忆会话、定制知识库。给出安装步骤。

ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。

文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。

生成式奖励模型（GRM）推理策略存在算力浪费问题。腾讯混元与新南威尔士大学联合提出 E - GRM 框架，将模型不确定性定义为调度信号，按需推理。文章从多维度解读该框架，并展示实验评估结果。

Anthropic状告阿里蒸馏模型致其股价创新低。一位87年创业者用AI搭工作流，起初用DeepSeek和Qwen问题多，换Claude后流程顺畅。MRCR v2测试显示国产模型与Claude有差距，便宜与省心模型该怎么选成问题。

谷歌联合创始人布林亲自督战，组建攻坚队「追杀」Anthropic，欲夺回编程能力差距。Claude在编程领域锋芒正劲，谷歌AI编码占比仅50%，而Anthropic已达100%。攻坚队聚焦长期写代码任务，策略转向优先训练内部代码模型。