「多教师知识蒸馏」共找到 617 篇相关文章
ICML 2026 | 北大提出的APEIRIA,打破了3D MLLM黑盒推理困境
北大团队提出面向3D空间推理的新框架APEIRIA,将神经符号程序推理模式蒸馏进3D MLLM。采用三阶段课程学习,在多基准测试表现强劲,保留模块化优势,为具身智能系统提供启发。
养了只东北味熊猫当AI合伙人,一口一个老铁,还真帮我开了家「一人公司」
腾讯ima上线copilot模式,可“领养”小熊猫并设定人设风格,成专属知识伙伴。它不分对话和任务模式,知识库功能实用,还能私人定制。作者用它模拟创业,体验良好,其记忆和全场景感知实用。
2026!开年关键词:Self-Distillation,大模型真正走向「持续学习」
2026 年刚开始,大模型领域研究者达成默契,arXiv 论文高频出现 Self-Distillation。传统强教师依赖范式难适配模型持续进化,Self-Distillation 成破局点。MIT 等机构发布三项研究成果,均用信息差实现模型自驱动升级。
两个LLM互相对线,推理能力起飞:康奈尔团队发布大模型版类GAN训练法
康奈尔大学团队提出面向大语言模型的类GAN训练框架PasoDoble,通过对抗训练两模型提升推理能力,不依赖外部监督,在多模型实验中显著提升数学基准表现,不过在部分领域外任务有局限。
大厂CIO独家分享:AI如何重塑开发者未来十年
阿里云智能集团副总裁、CIO 蒋林泉分享 AI 时代开发者竞争力构建。探讨技术贡献衡量、全栈工程师发展、产研与业务提效顺序、知识协作及大厂招人要求等,指出 AI 助发现并解决软件工程问题。
20岁辍学生用AI帮人记笔记,半年做到500万用户,年入百万美元
Turbo AI是一款主打课堂场景的AI笔记应用,由两位20岁大学辍学生创立。过去半年用户从100万飙到500万且盈利,仅融资75万美元。它功能丰富,但也有被指是GPT套壳、价格贵等问题。
自动驾驶公司,正在标配飞书
2025年自动驾驶行业快速发展,众多企业在知识沉淀和提效工具上达成共识,选择飞书。如地平线用其管理知识,Momenta借其打通研发流程,四维图新举办大赛挖掘提效案例,飞书成物理AI浪潮加速器。
游戏研发中的 AI 转型:网易多 Agent 系统与知识工程实践
本文整理自网易游戏高级技术经理林香鑫分享,介绍大模型在游戏研发落地实践。团队用代码知识谱图、多 agent RAG 召回等技术打造超级助手,在多业务场景落地,推动内部 AI 生成代码覆盖率提升。
Thinking Machine新研究刷屏!结合RL+微调优势,小模型训练更具性价比了
Thinking Machine新研究提出On - Policy Distillation方法,结合RL与微调优势。该方法让学生模型每步由教师模型指导,用KL散度评估分歧。实验表明其训练小模型性价比高,还能解决AI“灾难性遗忘”问题。
Vision-Zero:零数据VLM自我进化!陈怡然团队提出零监督训练新范式
陈怡然团队提出零监督训练新范式Vision-Zero,在多模态任务表现突出。它借鉴自博弈技术,设计自博弈框架,解决数据稀缺和知识天花板问题,还缓解跨能力负迁移,开源代码与模型可供研究。