「自蒸馏微调」共找到 1410 篇相关文章
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
聚焦手机AI“超级入口”，中兴Nebula小模型让手机秒变“小秘”？
移动智能时代，手机AI“超级入口”成竞争焦点。美团率先推出AI Agent，中兴通讯自研Nebula-GUI模型表现亮眼，在测评中获佳绩，已在多款手机商用，还开发数据制备系统，经监督微调、双层强化学习提升性能。
谷歌用Gemini 3同时革了OpenAI和英伟达两家的命
谷歌发布Gemini 3全家桶，打断英伟达和OpenAI双赢美梦。它实现原生多模态，对OpenAI构成代际优势；用TPU训练模型，摆脱CUDA依赖，冲击英伟达算力神坛。谷歌全栈自研，其发展或改变AI格局。
Agent 跑分追平 Codex、成本低至 1.95 美元，这家中国公司做到了
德勤报告显示86%多Agent项目落地失败，硅谷也出现‘无限智能体死循环’。EvoMap团队的EvoX采用‘蜂群式自进化’打法，系统容错率翻倍、完成率跃升，成本大幅降低。跑分追平Codex，还展现出自组织潜力。
Claude Managed Agents提了两个新改进，解决企业级安全问题
企业把AI接入内网，认证令牌风险大，阻碍全面接入内部API和数据库。Anthropic为Claude Managed Agents提出自托管沙箱和MCP隧道两个新解法，核心是让凭证控制权留在网络边界，还介绍了相关沙箱服务商。
告别盲选LLM！ICML 2025新研究解释大模型选择的「玄学」
弗吉尼亚理工大学研究团队提出 LensLLM 框架，基于 PAC - 贝叶斯泛化界限揭示 LLM 微调性能“双相演进”，可精准预测微调性能、大幅降低计算成本，为 LLM 选型提供新工具。
告别玄学选LLM！弗吉尼亚理工选型框架入选ICML 2025
弗吉尼亚理工大学研究人员推出选型框架LensLLM，可预测微调后性能走势，解释大模型微调“玄学现象”。它基于全新PAC - Bayes泛化界限推导，降低成本近90%，被ICML 2025收录。
LLM进入「拖拽时代」！只靠Prompt，几秒定制一个大模型，效率飙升12000倍
新智元报道，NUS、UT Austin等机构研究人员提出「拖拽式大语言模型」（DnD），它基于提示词生成模型参数，无需微调适应任务，效率最高提升12000倍，零样本泛化能力出色。
个体如何实现主权AI
文章指出越依赖AI，越要考虑‘主权AI’问题。对个体而言，实现主权AI核心是掌握自身数据等，能随时换底层模型，还介绍积累的四类资产、微调顺序及现实路径。
Skills刚火，就有零Skill的Agent来了…
Skills爆火之际，云玦科技团队提出不用Skills的零Skill Agent。它以Gemini 3 Pro为后端，在多个评测集表现出色。采用原位自进化框架，开源且成本低，或助力开源模型弯道超车。