「策略内自蒸馏」共找到 1361 篇相关文章
CVPR 2026 | 从视觉Token内在变化量出发，实现VLM无损加速1.87倍
随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。
不增加人手，项目效率飙升45%，OpenAI公开了一套AI实战经验
OpenAI公开基于大语言模型和专属Skill包的开源仓库维护方法论，将重复工作自动化，使项目代码合并吞吐量飙升45%。该方法由AGENTS.md、Skill包和GitHub Actions构成，还涉及任务分配、验证策略等。
原来Grok是36个小时极限卷出来的！xAI创始成员离职后放开说了
xAI前创始成员托比哥爆料，马斯克要求团队36小时内发布Grok。当时团队仅10人，面对半成品，高强度连轴转完成开发，使其走红。还提到马斯克硬核工作文化，虽压力大但成果显著。
IMO题库“过时”了！OpenAI内部模型挑战最新First Proof，做了7天错了一半
谷歌发布Gemini 3 Deep Think爆火后，OpenAI用未发布内部模型，一周内尝试解答10道来自数学家科研现场的真实问题，5道基本正确。这些题取自真实研究，切断模型“背答案”可能，意味着自主推理能力进化。
逆天！Mata用13个参数26字节让模型正确率从76%飙升至91%
Meta等机构研究人员发布TinyLoRA极致微调技术，配合强化学习，能在几乎不改变大模型原有结构下，用极少数参数激发其推理能力。该技术在数学推理上表现出色，还探索了参数共享策略和存储精度问题。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
百川开源医疗大模型 M3，王小川：今年会发布两款 ToC 产品，正在做硬件
1月初OpenAI、Anthropic推出医疗产品，百川智能也开源医疗大模型Baichuan - M3，评测成绩突出。王小川表示今年会发布两款ToC产品，还在做硬件，阐述了百川在医疗领域的目标与策略。
Claude自己写出Claude！2小时干完两月活，人类在工位上多余了？
Anthropic推出的AI办公利器Claude Cowork引发关注。它能两小时干完两个月的工作，代码由Claude Code自己编写。该工具应用广泛，让人类面临职业价值拷问，也可能成为今年AI应用层趋势。
硬刚黄仁勋！AMD祭出「千倍算力大杀器」，「反黄联盟」崛起
CES现场，苏姿丰投下震撼弹：四年内AI算力将提升1000倍！ 面对英伟达的封锁，AMD不再隐忍，直接祭出Helios「太阳神」机架与MI455X芯片，以单代性能暴涨10倍的「暴力美学」正面硬刚。
推理快30%，性能超过千亿参数模型，15B模型Apriel-1.6重新定义端侧推理
ServiceNow人工智能团队发布的Apriel-1.6-15b-Thinker，以150亿参数体量，多模态推理能力强，推理Token消耗降超30%。它在AI分析指数成绩佳，优化计算成本，还介绍了训练策略与多维度性能实测情况。