搜索：动态路由扩散

「动态路由扩散」共找到 663 篇相关文章

不平衡数据下对比学习的理论分析：从训练动态到剪枝解决方案

本文第一作者为新泽西理工学院廖海旭。对比学习在类别不平衡数据下面临挑战，此前研究未考虑其影响。本文构建理论框架刻画训练动态，定量分析少数特征影响，提出剪枝算法增强少数特征学习，实验验证其有效性。

今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。

AI初创公司Inception Labs推出首款专为聊天定制的商业级扩散LLM——Mercury。它速度超快、效率高，能实时响应对话。实测显示其速度优于Gemini 2.5 Flash等，不过生成质量有待提升。

深度学习中，扩散模型能生成新图像且抗过拟合。巴黎高师和博科尼大学研究团队论文指出，这源于隐含的动力学正则化，训练分两阶段，数据量增加会拉开‘泛化窗口’，还给出数学解释。

Ruby 代码提交者远藤裕介评估 Claude Code 用 13 种编程语言生成代码的效率。经 600 多次测试，动态语言更快、更省成本且更稳定，静态类型语言慢且成本高。实验有局限，也引发质疑与回应。

谷歌将图像生成常用的“扩散技术”引入语言模型，推出Gemini Diffusion，12秒能生成1万tokens，速度比Gemini 2.0 Flash - Lite更快。它通过逐步优化噪声学习生成输出，目前是实验性演示，可申请体验。

近年来，可验证奖励强化学习（RLVR）提升了大模型在多任务上的性能，但带来“能力退化”问题。Meta等提出RECAP策略，结合“回放”与“动态目标重加权”，保持模型通用能力，提升推理性能，还提高推理效率。

OpenAI发布专用于编程的GPT-5-Codex，属GPT-5特殊版本，有即时协作和独立执行的‘双模’特长。它能动态调整资源，token消耗少，擅代码审查。文中还介绍其命名由来及编程智能体竞争情况。

清华大学联合腾讯提出Scene Splatter，基于视频扩散模型，从动量视角引导其生成满足三维一致性的视频片段，提升三维场景生成效果，解决了传统方法在单张图片重建三维场景的难题。

中国人民大学高瓴人工智能学院与蚂蚁集团合作，首次系统刻画混合专家扩散语言模型扩展定律，据此训练LLaDA MoE v2，实现扩展效率与智能双重突破，将推动其迈向规模化时代。