「知识蒸馏」共找到 591 篇相关文章
又一推理新范式：将LLM自身视作「改进操作符」，突破长思维链极限
Meta等机构研究者将LLM视为「思维」改进操作符，探究并行 - 蒸馏 - 精炼（PDR）推理方法。实验显示，PDR在数学任务中提升准确率，还训练8B模型让推理方法更适配，减少训练与部署的不匹配。
对话RoboScience邵林：VLOA大模型如何突破具身智能泛化瓶颈
本文对话RoboScience联合创始人邵林，探讨VLOA大模型突破具身智能泛化瓶颈。他介绍了模型优势、设计思路，对比VLA，还谈及范式、难点及落地场景等，强调以人中心、做有温度技术，重视模型落地。
ACM MM 2025 | 小红书AIGC团队提出风格迁移加速算法STD
小红书AIGC团队提出风格迁移加速算法STD。现有一致性模型在风格化任务有缺陷，文章提出从部分噪声状态出发的训练框架STD，设计轨迹状态库减轻计算负担，引入非对称对抗损失增强风格一致性，实验显示其效果优。
KAG-Thinker：「结构化」思考新范式，支持逻辑严谨的大模型复杂推理
近日，蚂蚁集团知识引擎团队协同高校发布 KAG-Thinker 模型，是 KAG 框架重要迭代。它聚焦复杂推理，建立结构化思考范式，实验显示其性能在多数据集上有提升，还在医疗问答验证了专业领域有效性。
普林斯顿等高校提出AgentDistill：无需任何训练即可继承大Agent复杂能力，性能提升48%，成本降低90%
在AI领域，大型语言模型智能体计算需求大限制部署，传统蒸馏技术对智能体效果有限。AgentDistill提出解决方案，让学生智能体复用教师智能体的MCP工具包，无需训练继承复杂能力，小模型性能显著提升。
打通AI4S数据入口：MinerU.Chem让化学文献中的“图片”，从“人类可读”走向“AI可用”
上海人工智能实验室 OpenDataLab 团队发布 MinerU.Chem 技术报告及成果，升级化学文献智能解析能力。它能将化学文献图片转化为 AI 可用数据，解决化学知识机器难用问题，在评测中领先，还将助力 AI4S 发展。
曝梁文锋不满内部会议泄露，DeepSeek或暂停新融资；卡帕西入职Anthropic仅两月疑离职；日媒拆解宇树G1后认输：短期内赶不上中国｜AI周报
这篇AI周报涵盖多则热点，如DeepSeek因会议纪要外泄或暂停融资；AI大神Karpathy入职Anthropic两月引离职传闻；美国指控K3蒸馏大模型，黄仁勋等支持开源AI；还有企业人事变动、模型发布及应用等消息。
用 Codex 读 DeepSeek 最新论文 DSpark，AI 改变了读书方式
作者用 Codex 加‘论文 Skill’读 DeepSeek 最新论文 DSpark，省一半时间还获图文并茂中文解读材料。介绍了使用方法、优势，如叠三层能力让读论文成共读之事，处理词、段及全文后可重构知识材料。
清华团队预言：90%的人将脱离谋生劳动，「零人公司」时代来了！
清华沈阳团队基于研究与实践提出四大颠覆判断，如AI走向「人机隔离」、未来公司只剩一人或零人等。团队在模型训练、微调等多方面有成果，还探讨行业应用、知识范式颠覆等，描绘AI发展图景。
给Agent装上“海马体”！上海AILab开源MemVerse，定义多模态记忆新范式
上海人工智能实验室开源MemVerse，这是首个面向智能体的通用多模态记忆框架。它将多模态信息与文本对齐到统一语义空间，首创‘双通路’架构与‘记忆蒸馏’技术，让智能体有终身记忆能力，在多模态任务中表现出色。