「步数蒸馏」共找到 599 篇相关文章
情人节最硬核“Kiss”！中国AI突破300年亲吻数难题，连刷多维度纪录
中国AI打破300多年的亲吻数难题。上海科学智能研究院等团队提出PackingStar系统，刷新多维度世界纪录。它将难题转化为多智能体博弈，成果获高度评价，还体现了AI for Science 2.0特质。
Thinking Machines 发布又一神作「在线策略蒸馏」 ，LLM后训练效率飙升50-100倍
Mira的THINKING MACHINES开源「在线策略蒸馏」LLM后训练方法，结合两种主流后训练范式优点，提升训练效率50 - 100倍，成本降低9到30倍，可用于数学推理、模型个性化等场景。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
阿里通义发布Z-Image非蒸馏版基础模型版本，支持完整CFG和负向提示
阿里通义发布Z-Image基础图像生成模型，采用单流扩散Transformer架构，具核心创新技术。它是非蒸馏模型，支持完整CFG和负向提示，注重输出多样性和创意控制，已在Hugging Face开放下载。
清华大学x生数科技：从波形到隐空间，AudioLBM引领音频超分新范式
音频超分辨率是提升音频体验的关键技术，但高频细节损失是挑战。OpenAI的Sora 2树立高保真音频生成标杆，现有学术模型有局限。清华与生数科技团队发表两项成果，AudioLBM展现通用高分辨率音频生成潜力。
国内首个！加入六维力的全感知数采，让VLA模型进化出力触觉
具身智能发展受数据采集制约，开普勒机器人发布国内首个原生全感知力触数采系统，打通全链路闭环。该系统具平台化特征，让具身智能范式转变，还获融资并升级战略，在工业场景表现出色。
5Y News | 欧拉万象完成数亿元融资，要做「养成系」家庭具身智能机器人
家庭具身智能企业欧拉万象近日完成数亿元融资，由招商局创投领投。创始人周顺波、联合创始人张靖履历亮眼。其走‘渐进式进化’路线，将推可养成机器人，获资本市场认可。
用更一致的轨迹、更少的解码步数「驯服」掩码扩散语言模型，扩散语言模型的推理性能和效率大幅提升
扩散大语言模型发展迅猛，或成下一代大语言模型基础范式有力竞争者。复旦大学等团队发布论文，提出高效解码策略与强化学习训练组合，解决MDLM解码和训练问题，提升推理性能与效率。
「熟悉的陌生人」才是「好老师」？复旦提出简单指标，找出推理蒸馏中真正有教学价值的数据
复旦大学和上海人工智能实验室研究者提出 Rank - Surprisal Ratio (RSR) 度量方法，综合考虑样本信息量与对齐程度，在蒸馏实验中与学生模型后训练性能相关性高，可用于筛选推理轨迹和选择教师模型。
AI视频生成走向“演技生成”时代，生数科技Vidu全球发布Vidu Q2 | 甲子光年
9月25日，生数科技全球上线新一代图生视频大模型Vidu Q2，实现从“视频生成”到“演技生成”跨越。它在表情生成、运镜、语义理解、时长选择等方面有提升，分闪电和大片模式，已在多端上线。