搜索：策略内自蒸馏

「策略内自蒸馏」共找到 1357 篇相关文章

穷人福音！MIT研究：不用堆显卡，抄顶级模型作业就成

MIT研究把59个不同模型凑一起，发现强大模型对物质理解趋同，且性能越强思维越接近。研究还指出性能不佳模型的问题，认为可通过模型蒸馏让小模型模仿大模型，实现算力自由。

合肥工业大学团队提出大模型存在‘隐藏的真伪认知’，论文让模型用此给推理‘打分’，过滤错误推理链。通过多层注意力头探测、构建预测器和新推理扩展策略，提升了推理链稳定性，实验效果优异。

在 NeurIPS 2025 上，蚂蚁全模态代码算法团队展示「Code Graph Model (CGM)」，它将代码库图结构注入 LLM 底层注意力机制，打破业界刻板印象，在权威榜单上表现出色。文章解析其架构、训练策略和配套框架。

微软CEO纳德拉承认，因缺电、缺机房空间，大量英伟达AI芯片闲置。这不仅是微软烦恼，也是大模型巨头共同问题。奥特曼称行业挑战在能源与基础设施匹配，算力企业也在调整策略。

北京理工大学和理想汽车等团队提出全新框架PhysGM，引入DPO实现端到端快速前馈推理，能1分钟内将单图生成为4D动态视频，在速度和评价指标上超越主流模型，相关工作被CVPR 2026接收且代码已开源。

牛津大学博士生Silvia Sapora把机器学习求职面试经历原原本本写在博客中。她分享面试准备技巧、心态与谈判策略，提醒一次面试表现不定义研究者价值，该文对求职者或许比题库更有用。

VLM在3D空间推理上表现不佳，且缺乏合适测试基准。匹兹堡大学团队提出InfiniBench框架，用LLM Agent迭代优化和聚类策略，可按需生成3D场景，还能精准定位大模型空间推理缺陷。

当前大视觉语言模型处理复杂推理任务时，常过分依赖语言知识，忽视图像关键信息。港大等团队提出ProReason框架，其蒸馏的ProReason - VL和ProReason - Q3模型性能提升显著，为LVLMs发展提供方向。

MoonCast是革新性对话式语音合成模型，已开源。它借助LLM让剧本有干货与人味，采用全面规模化策略使音频合成更自然，性能在双语长对话播客上提升显著，接近真人播音效果。

NuerIPS唯一满分论文结论惊人，指出真正决定推理上限的是基座模型本身而非强化学习，且蒸馏比强化学习更有望实现大模型自我进化，这给正火热的RLVR泼了冷水。