「个性化蒸馏」共找到 238 篇相关文章

算法论文7

穷人福音!MIT研究:不用堆显卡,抄顶级模型作业就成

MIT研究把59个不同模型凑一起,发现强大模型对物质理解趋同,且性能越强思维越接近。研究还指出性能不佳模型的问题,认为可通过模型蒸馏让小模型模仿大模型,实现算力自由。

新智元
算法论文8

EMNLP2025 | 解耦视觉与推理,港大探索视觉语言模型"眼智分离"新范式

当前大视觉语言模型处理复杂推理任务时,常过分依赖语言知识,忽视图像关键信息。港大等团队提出ProReason框架,其蒸馏的ProReason - VL和ProReason - Q3模型性能提升显著,为LVLMs发展提供方向。

深度学习自然语言处理
算法论文8

6666!NuerIPS满分论文来了

NuerIPS唯一满分论文结论惊人,指出真正决定推理上限的是基座模型本身而非强化学习,且蒸馏比强化学习更有望实现大模型自我进化,这给正火热的RLVR泼了冷水。

量子位
开源动态8

2张4090竟能本地微调万亿参数Kimi K2!趋境联合清华北航把算力门槛击穿了

仅需2 - 4张消费级显卡(4090),就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动,大幅降低成本,开启AI个性化定制时代。

量子位
新闻资讯7

多模态扩散模型开始爆发,这次是高速可控还能学习推理的LaViDa

近期基于扩散模型的视觉 - 语言模型 LaViDa 出现,它继承扩散语言模型优点。与自回归模型不同,扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力,推理蒸馏和文本填空表现好,还能权衡速度与质量。

机器之心
开源动态8

阿里Qwen3技术报告核心要点解读!

阿里Qwen3技术报告发布,披露模型架构、预训练及后训练等技术细节。其有密集与混合专家两种模型架构,预训练数据量和语种增多,后训练采用强到弱蒸馏提升性能,各模型表现优异。

PaperAgent
算法论文8

微软×UIUC:给每个学生造一个「数字分身」,AI教师终于有了陪练

微软和 UIUC 合作研究 StudentSim,基于真实学生数据训练个性化学生模拟器框架,解决了过去学生建模方法的问题。它经两阶段训练,在多领域实验中表现出色,还能为 AI 教师优化提供反馈。

机器之心
产品应用7

以前写文排版60分钟,现在 Claude Code 3分钟

作者分享AI写作系统,用AI梳理复杂逻辑生成配图,进行个性化排版、一键出稿。介绍必需工具如Obsidian、PicGo、Claude Code等,还提供具体配置教程、进阶玩法,如规范写作、生成逻辑图、定制风格。

AI产品自由
新闻资讯7

从辅助工具到智能决策,大模型如何改变人才选拔方式?

随着大模型应用拓展,企业人力资源管理成落地热点。阿里巴巴技术专家程鹏认为,大模型在人才选拔与培养中有效率、个性化、客观决策等颠覆性价值,也面临落地挑战,还分享应对策略等内容。

InfoQ
推荐文章8

Claude:Profile and Preference

文章借与Claude对话,探讨Profile和Preference概念,分析其区别联系,指出AI时代借助大模型理解用户的变化,还谈及数据源、实时个性化、偶然性、广告变革等问题,最后Claude为作者生成简易画像。

李继刚