搜索：统一学习范式

「统一学习范式」共找到 2516 篇相关文章

深度讨论 Online Learning ：99 条思考读懂 LLM 下一个核心范式｜Best Ideas

文章围绕Online Learning展开深度讨论，指出其或为LLM下一个核心范式。探讨了它是通往更高层次智能的关键路径，分析概念定义、非共识，还阐述做好它的方法，以及架构、算力和评估范式等问题。

现代AI系统学习新任务时会灾难性遗忘旧知识，限制其持续学习能力。麻省理工学院研究者对比SFT和RL后发现，相同性能下RL更不易遗忘，提出遗忘定律，解释了RL优势源于其on - policy特性。

昆仑天工的 SkyReels-V4 在 Artificial Analysis 文生视频榜单排第二，ELO 评分 1090。它有「运动参考」能力，能覆盖视频创作全工作流，背后靠统一拼接框架和双流 MMDiT 架构，体现 AI 行业「统一」趋势。

港科大论文指出，随着科学问题复杂度提升，传统科研范式显露出局限。基础模型（FMs）横空出世，具备通用性、规模与知识覆盖、推理与生成能力，可能引领科学进入第五范式，但也面临偏见、幻觉等问题。

清华、西交联合开源发布CHEERS，提出面向统一多模态理解与生成的架构路线，在保持系统简洁前提下，统一理解与生成任务，继承开源预训练模型知识，在多项基准测试中表现优异，还实现4× token压缩。

2026 年刚开始，大模型领域研究者达成默契，arXiv 论文高频出现 Self-Distillation。传统强教师依赖范式难适配模型持续进化，Self-Distillation 成破局点。MIT 等机构发布三项研究成果，均用信息差实现模型自驱动升级。

新智元报道，翁荔的Thinking Machines研究同策略蒸馏策略，能以1/10强化学习成本，结合同策略训练优势与密集奖励信号。该策略受DAGGER启发，扩展Qwen3团队工作，可在Tinker复现，还能用于个性化和持续学习。

2026年刚开场，Self - Distillation成大模型领域高频词汇。传统强教师依赖范式难适配大模型持续进化，MIT等顶尖机构发布三项成果，用不同方法实现自蒸馏，推动模型持续学习。

浙江大学郑畅东、谢芳芳等提出基于Transformer网络的上下文学习跨翼型主动流动控制策略。该框架引入策略改进算子，结合强化学习与气动形状优化，在翼型流动分离问题中表现出色，提升了整体性能。

微软新研究提出「强化预训练（RPT）」新范式，将下一个 token 预测任务重新定义为推理任务，可利用海量文本数据进行通用强化学习。该方法有可扩展性、低风险等优点，实验显示其提升了语言建模能力。