搜索：一致性蒸馏训练

「一致性蒸馏训练」共找到 2334 篇相关文章

自媒体误读了 DeepSeek-OCR：一图胜千言

近期，DeepSeek-OCR引发关注，但很多媒体误读其为OCR工具，实际是视觉语言模型。它是为大文档等场景优化的视觉压缩与识别系统，架构新颖，训练讲究，效果出色，为行业带来新思路。

北京智源研究院联合多方发布原生全双工语音对话大模型 RoboBrain - Audio，采用新架构和创新训练范式，在性能上全面领先，革新音频 - 文本对齐方式，丰富了 RoboBrain 全栈体系，推动具身智能发展。

腾讯团队提出Single - stream Policy Optimization（SPO），回归单流策略梯度范式，解决组基方法瓶颈。它有多项亮点，如告别组同步、采用自适应价值跟踪等，在实验中提升了模型性能和训练吞吐。

医学领域需处理复杂关系，现有医学AI系统缺乏对罕见实体和复杂关系的推理能力。MedResearcher - R1通过专门图谱和检索工具，结合两阶段训练范式解决问题，在医学基准测试取得新成果。

杭州群核科技发布空间大模型，深耕室内场景，直指‘空间一致性’痛点。其开源子模型具真实感全息漫游、可交互等特点。当前空间模型处早期，群核提出‘三位一体’战略，还将开源促行业发展。

谷歌新发布Genie 3世界模型，能从文本生成交互式AI空间世界，操控图像和视频。用户可进入《苏格拉底之死》《夜游者》等名画探索，还能利用它训练3D模型，实现沉浸式体验。

大型语言模型处理长文本时，KV缓存占用内存巨大。陈丹琦团队提出KV足迹作评估标尺，推出分块驱逐与PruLong训练技术，在128K长文本任务中最高降低70%内存，性能损失仅10%。

DeepSeek 去年末以低成本训练出先进开源大模型引关注，近日团队披露构建 DeepSeek - R1 和 DeepSeek - V3 的软硬件方案，降低内存和计算需求，其细节公布让更多团队有机会参与前沿研发。

InfoQ《极客有约》X AICon 直播栏目，邀上海交大赵波、快手高欢、腾讯邵帅探讨多模态大模型。谈及技术挑战、开源闭源、行业落地等，还分享精彩观点，如先大后小蒸馏提效，垂直模型现阶段更优。

现有文生音频技术在精细化控制方面有挑战，清华团队提出ControlAudio方法。它通过数据构造、渐进式训练和引导采样，在统一框架下实现时间与语音内容联合建模，在多项任务上表现优于现有方法。