「自蒸馏微调」共找到 1408 篇相关文章
Claude和GPT思维链竟被两步蒸馏！116页论文曝光API致命漏洞
2026年AI蒸馏成悬案，一篇116页论文砸穿巨头「黑盒」。研究人员用低价小模型恢复Claude、GPT和Gemini原始推理，还发现API漏洞存在跨会话、用户和模型互通情况，收集公开轨迹泄露诸多敏感信息。
自回归模型杀回图像生成！实现像素级精准控制，比Diffusion更高效可控
当下AI图像生成领域，Diffusion模型虽为主流，但在精准控制上有不足。伊利诺伊大学香槟分校等机构研究者提出MENTOR框架，用自回归模型实现像素级精准控制，比Diffusion更高效可控。
Qoder 发布首个自进化的智能体：看 Quest 如何重构了 Quest
Qoder 发布首个自进化智能体 Quest，它能自主完成重构自身长程任务执行逻辑等任务。Quest 从上下文管理、工具选择、Agent Loop 三方面优化架构，还具备自主进化能力，正探索自主编程新可能。
AI越用越聪明，自主+自进化是关键拼图丨盛大邓亚峰EverMind@AIGC2026
在AIGC2026峰会上，盛大集团邓亚峰指出，AI范式从Chat转向Agent，未来AI需“自主”与“自进化”，长期记忆是关键。EverMind团队基于此研发相关技术，成果显著，还提出个人记忆主权等观点。
Thinking Machine新研究刷屏！结合RL+微调优势，小模型训练更具性价比了
Thinking Machine新研究提出On - Policy Distillation方法，结合RL与微调优势。该方法让学生模型每步由教师模型指导，用KL散度评估分歧。实验表明其训练小模型性价比高，还能解决AI“灾难性遗忘”问题。
Meta视觉基座DINOv3王者归来：自监督首次全面超越弱监督，商用开源
Meta推出并开源视觉基础模型DINOv3，采用自监督学习，首次全面超越弱监督，可生成高质量高分辨率视觉特征。它在多任务表现出色，参数和数据量提升，还构建模型家族，已在多领域产生实际影响。
Meta CEO X 微软 CEO 对话解读：「蒸馏工厂」为何成为开源的魅力之源？
Meta CEO Mark Zuckerberg 和微软 CEO Satya Nadella 在 LlamaCon 2025 闭幕会议对话，探讨AI对技术平台等影响，如使文档、应用和网站界限模糊，还谈及开源与闭源模型战略价值及‘蒸馏工厂’概念。
4B Qwen3逆袭671B DeepSeek！字节DAPO微调方法这么猛的吗
最新模型Jan - nano引发关注，它在智能体任务上超671B的DeepSeek - V3 0528，在SimpleQA基准获80.7分。它基于Qwen3 - 4B用字节&清华DAPO微调方法。其研发团队是Menlo Research，有开源产品和长远规划。
训练提速5倍，响应缩短50%：动态自感知能力，重塑高效LLM Reasoning范式
大型语言模型“思维链”技术有冗余，传统优化方案存在静态先验与动态能力错配问题。论文提出的DR.SAF框架赋予模型动态自感知能力，通过三模块协作，实现推理“精准瘦身”，解决根本冲突。
西湖大学修宇亮：数字人重建，慢慢都会变成基础模型的微调任务 | GAIR 2025
12月13日，西湖大学修宇亮在GAIR 2025分享数字人重建进展。其团队成果UP2You将建模时间从4小时缩至1.5分钟；ETCH获更准确内部人体结构；Human3R可实时动态重建人物场景。他认为未来数字人重建将成基础模型微调任务。