搜索：大模型蒸馏 - AI Reading Hub

「大模型蒸馏」共找到 9221 篇相关文章

抛弃“级联”架构！快手OneRec用大模型重构推荐系统，服务成本降至1/10

传统级联式推荐架构有瓶颈，快手用OneRec重构推荐链路，服务成本降至1/10。文中介绍OneRec架构、Tokenizer方案、强化学习奖励设计，还提及优化及多模态联合训练方向。

上海人工智能实验室与复旦大学联合研究成果《Capability Salience Vector》获ACL 2025杰出论文奖。提出能力显著向量（CSV）解决验证损失与下游任务能力脱节问题，实验验证其提升了下游任务表现可预测性。

6月6日“2025消费金融生态大会”在重庆举行，马上消费常务副总经理蒋宁推出全面迭代的“天镜”3.0。它开启从个体到群体智慧跃迁，挖掘隐性经验，能匹配最佳服务路径，还具备协同进化能力。

ACL 2025 论文《Agentic Knowledgeable Self-awareness》聚焦提升智能体「知识边界感知」能力。KnowSelf 方法让智能体自主调节知识运用，实验显示其性能优，还探索了智能体自我认知多方面影响。

Windsurf在1.8.2版本推出workflow功能，其采用自然语言定义工作流并与开发IDE深度集成，是更高级形态。该功能特性丰富、应用场景多，对Dify等应用编排工具或造成‘降维打击’。

音频驱动人体动画技术有局限，阿里夸克团队推出OmniAvatar模型。它用逐像素多层次音频嵌入和LoRA训练法，解决唇动同步等问题，适用于多领域，但也存在颜色偏移等不足。

2026新年第一天，DeepSeek发表梁文锋署名新论文，提出「mHC（流形约束超连接）」架构。它仅增约6.7%训练时间开销，就能让27B参数模型性能显著提升，还可能淘汰ResNet结构。

此研究挑战‘RL不教新技能’观点，通过‘字符串转换预测’实验证明，RL能让LLM学会组合已有原子技能，形成可泛化、迁移的元技能，还给出模型能力提升路径。

阿里昨日开源多模态图像基础模型Qwen-Image，基于20B参数MMDiT架构，在复杂文本渲染和精确图像编辑方面有重大突破，支持多风格图像生成、智能图像编辑等，还介绍了使用、部署等方法。

本周四，谷歌发布 Gemma 3 270M 模型，它参数小、功能强，具备指令跟踪等能力。在 IFEval 测试中表现出色，节能且适合多场景，谷歌还提供使用指南和试用途径，Gemma 系列下载量已破两亿。