「大模型蒸馏」共找到 9148 篇相关文章
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
开源模型TOP5，被中国厂商包圆了
10月公开数据显示中国开源大模型占据榜单前五，阿里Qwen系列和DeepSeek影响力深远。从LMArena榜单、HuggingFace数据看，国产模型表现佳。还提及Llama 5相关传闻。
大模型的进化方向：Words to Worlds | 对话商汤林达华
量子位对话商汤林达华，探讨大模型发展。商汤的SenseNova - SI超越李飞飞团队模型，林达华认为单纯依赖参数规模的AI范式遇瓶颈，商汤推出NEO架构革新，还在落地应用优化，为年轻人指明新赛道。
CVPR2026 | Streamo：让大模型变成实时流式交互助手
香港浸会大学联合腾讯优图实验室提出 Streamo，将‘何时回答’变为模型预测的 token，通过端到端训练框架把离线视频模型转化为实时流视频助手，还构建 Streamo - Instruct - 465K 数据集，实验效果良好。
蒸馏效果起飞！DOPD破解「特权幻觉」，让在线策略蒸馏更有效
近期，新加坡国立大学等团队提出 DOPD 法解「特权幻觉」难题。该法依 token 情况动态蒸馏，实验表明其在 LLM、VLM 蒸馏效果好，鲁棒性强，训练稳定，为在线策略蒸馏提供新思路。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
蚂蚁抛弃向量推荐！用8B小模型构建「用户“话”像」，实现跨模型通用并拿下SOTA
2026年AI开发者关注爆款大模型应用，个性化是关键。蚂蚁集团和东北大学团队推出AlignXplore+，实现文本化用户建模新范式，有全域通用、极致迁移、实战适配特性，小参数超越基线，未来将继续探索。
被曝蒸馏DeepSeek还造假！欧版OpenAI塌房了
被誉为欧洲版OpenAI的Mistral被离职员工爆料多项黑幕，其最新模型疑似直接蒸馏自DeepSeek，却包装成RL成功案例，歪曲基准测试结果。此前就有人发现其模型与DeepSeek相似，目前官方暂无回应。
Anthropic祭出大模型“读脑”杀手锏：LLM决策过程全给你扒开看
Anthropic宣布开源电路追踪工具，可追踪LLM神经元，通过生成“归因图谱”揭示模型输出原因。开源了生成图谱的库和交互式前端，并提供demo notebook。可追踪电路、可视化图谱、检验假设。
Claude团队打开大模型「脑回路」，开源LLM思维可视化工具来了
Claude团队推出“电路追踪”工具，可生成归因图呈现LLM处理信息路径，支持在主流开源权重模型上快速生成。研究人员能借此解码LLM“决策逻辑”，官方还给出多语言电路等示例。