「自蒸馏微调」共找到 1408 篇相关文章
Thinking Machines首款产品重大更新：K2 Thinking、Qwen3-VL都可以微调了
由前OpenAI CTO创办的Thinking Machines Lab推出的首款产品Tinker API有重大更新。取消候选名单面向所有用户，还可微调Kimi K2 Thinking，新增兼容OpenAI API接口，支持Qwen3 - VL视觉输入，降低模型训练门槛。
token危机解决？扩散模型数据潜力3倍于自回归，重训480次性能仍攀升
新加坡国立大学AI研究者Jinjie Ni团队预训练扩散语言模型（DLMs）与自回归（AR）模型，发现DLMs是超强数据学习者，数据潜力超AR 3倍，重训480次性能仍攀升，还剖析同期研究方法论缺陷。
Thinking Machines新发现：Lora不是权宜之计，哪怕秩低到 1，也能匹敌全参数微调
Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。
多轮Agent蒸馏终于不翻车！港中文x通义新方法成功率暴涨18点，训练还快32%
香港中文大学联合阿里通义事业群提出TCOD训练方法，解决多轮Agent蒸馏稳定性难题。它只需对现有OPD代码做极少改动，提升了模型成功率，压缩行动步数，还减少训练时间，未来或成训练长程Agent标配。
NICE59期 | Agent进入下一篇章！Alita：不靠人工预设，自己造MCP自我进化的AI
这篇论文提出让 Agent 主动创造解决 MCP 的工具实现自我进化，工具可网上检索或自主编写。Alita 做法更通用实效，还提出‘Agent 蒸馏’思想，其生成的 MCP 已用于‘manus’。
SIGGRAPH Asia 2025：摩尔线程赢图形顶会3DGS挑战赛大奖，自研LiteGS全面开源
12月17日，在SIGGRAPH Asia 2025上，摩尔线程凭自研LiteGS获3DGS重建挑战赛银奖。3DGS是下一代图形渲染技术，有巨大潜力但训练耗时久。摩尔线程开源LiteGS，实现全链路协同优化。
苹果新研究：不微调、不重训，如何让AI提问效率暴增6.5倍？
苹果与牛津、港城大合作提出 BED - LLM 方法，能让 AI 解决问题能力提升 6.5 倍，无需微调重训。它基于序贯贝叶斯实验设计框架，通过三重智慧设计，经测试全面超越基准方法，或开启‘智慧对话’时代。
每秒生成超30帧视频，支持实时交互！自回归视频生成新框架刷新生成效率
微软研究院与北大联合发布Next - Frame Diffusion (NFD)新框架，通过帧内并行采样、帧间自回归等方式，让视频生成在保持高质量的同时，效率大幅提升，还采用多项技术进一步优化。
1B 参数跑出 2B 性能？面壁 MiniCPM5-1B 用 AI 自进化，提速 AGI 进程
全球AI行业陷入资源消耗战，面壁智能绕开物理瓶颈，提出“AI制造AI”路径。2026年5月25日发布MiniCPM5-1B，有越级性能、极致压缩比和均衡能力，源于“模型、框架、数据”自进化范式。
神秘具身团队又放出一连串很炸的Demo视频…自进化模型，技术路线曝光
神秘具身团队放出一连串Demo视频，其内部代号“MVP”的模型让机器人似人般思考决策。视频展示机器人在不同场景下的表现，如躲避推搡、做家务、机器人协作、高效收纳等，体现对物理规则和人类习惯的理解与自进化能力。