「蒸馏方法」共找到 1627 篇相关文章
NeurIPS 2025 | 北大联合小红书提出Uni-Instruct：ImageNet单步生图FID进入1.0时代！
北大联合小红书提出的 Uni - Instruct 框架被 NeurIPS 2025 接收，它统一超 10 种单步扩散模型蒸馏方法，在多项任务达最佳性能，还能用于文本到 3D 生成。
智能流体力学专题研讨会特邀报告4｜卢臻：基于 Koopman 方法的非线性动力学端到端量子模拟
2026年8月，第十四届全国流体力学学术会议在山东青岛举行，智能流体力学专题研讨会展示了人工智能、机器学习与流体力学交叉领域研究进展。本次分享《基于Koopman方法的非线性动力学端到端量子模拟》报告，团队来自多机构。
Qwen3家族训练秘籍公开：思考/非思考融进一个模型，大模型蒸馏带动小模型
Qwen3技术报告揭晓8款模型关键技术，采用双模式架构，训练和微调分段进行，还“大带小”蒸馏数据。其融合思考与非思考模式，训练分多阶段，Qwen Chat还全量上线深度研究功能。
2025中国力学大会AI+分享 | 四川大学张来平研究员：基于图神经网络的流场预测方法研究进展
2025中国力学大会AI+分享中，四川大学张来平研究员介绍基于图神经网络的流场预测方法研究进展。张来平长期从事计算流体力学研究，近年专注AI for Science，成果颇丰。
智能流体力学专题研讨会特邀报告3｜边鑫：混合深度学习与迭代方法的粘性不可压流动加速求解
2026年8月，第十四届全国流体力学学术会议在青岛举行，智能流体力学专题研讨会展示了人工智能与流体力学交叉领域进展。边鑫作《混合深度学习与迭代方法的粘性不可压流动加速求解》报告，介绍HyDEA求解框架。
CJA|西工大林海涛、张伟伟等：关联函数学习：适用飞行器外形泛化的稀疏气动数据重构方法
本文提出关联函数学习（SFL）方法，通过符号回归挖掘气动力系数复合函数表达式，实现非线性气动数据稀疏重构与状态外推。用少量样本构建数据库，误差 1%-5%，比 Kriging 法样本量减超 90%。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
实时生成视频！StreamDiT每秒16帧，单卡生成
现有文本生成视频模型多为离线生成，无法满足实时交互需求。加利福尼亚大学与Meta联合提出StreamDiT模型，采用流匹配等方法，蒸馏模型可单卡每秒16帧实时生成512p视频，不过仍有伪影问题。
一个模型超了DeepSeek R1、V3，参数671B，成本不到350万美元
Deep Cogito 是旧金山 AI 初创公司，开源四款混合推理模型。最大 671B MoE 模型性能超 DeepSeek v3 等，推理链比 DeepSeek R1 短 60%，训练成本不到 350 万美元。核心方法是迭代蒸馏与增强。
无需训练的LLM对齐方法综述
大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。