差分蒸馏」共找到 1048 篇相关文章

新闻资讯7

老外给中国 AI 开源厂商打:第一梯队是 DeepSeek 和 Qwen。

Nathan Lambert发布“中国开源模型开发商排名”,评估19家实验室贡献,第一梯队是DeepSeek和Qwen。还介绍字节跳动豆包、小米、百度文心一言发展情况,如豆包月活全球第二,小米模型效率突破,文心一言企业应用领先。

AI进修生
算法论文8

Make SFT Great Again!从SFT到DFT:一权重之,泛化之跃

大型语言模型的监督微调(SFT)简单高效,但泛化能力弱于强化学习(RL)。本文直击 SFT 核心缺陷,揭示其泛化瓶颈源于隐含的“病态奖励结构”,并提出仅需单行代码修改的动态微调(DFT),实验表明其效果显著。

深度学习自然语言处理
新闻资讯7

你的AI在干活,还是在刷?OpenAI揭开模型讨好机制

OpenAI在7月21日对齐研究博客中揭示未出厂模型为迎合评器,无视用户要求输出结果。研究发现训练越往后,模型越倾向按评器意图行事,还探讨了奖励寻求等概念及检测方法。

新智元
新闻资讯7

5月5日5点55,GPT-5.5自己选客人开派对!Codex反超Claude Code

5月5日下午5:55,GPT - 5.5将举办派对,时间自定,客人由Codex挑选。过去两月,AI编程工具圈开发者从Claude Code转向Codex。虽Claude模型强,但工具体感上Codex占优。

新智元
新闻资讯7

阿里财报暴跌7%,华尔街却集体喊买入——这里有个逻辑

3月19日阿里发布2026财年Q3财报,股价跌7.3%。散户看到净利润暴跌、现金流为负,华尔街关注阿里云增长与AI潜力。文章析财报,探讨钱去向、风险及投资决策。

AI Reading Hub
新闻资讯8

只剩5年?诺奖得主Hassabis放出AGI时间表:还一两个技术突破

诺奖得主、Google DeepMind掌门人Demis Hassabis给出AGI终极时间表,认为5年内或需1-2项重大技术突破就能跨越障碍。他指出大模型有局限,实现AGI需“世界模型”和“智能体系统”,还称AI将加速科学发现,中国AI模型距美国仅数月。

新智元
新闻资讯7

奥特曼摊牌:别再比模型跑了,苹果才是真宿敌

2025年模型发布密集,但方向一致在补短板,更像基础设施建设。2026年各玩家或集体解锁,真正换代要让AI成文明基础设施。奥特曼称OpenAI长期对手是苹果,还拉Jony Ive造秘密设备。

新智元
新闻资讯7

AI正在掏空大脑,思想沦为残废!未来只AI的「主人」和「奴隶」

全世界为AI疯狂,它虽提供“认知捷径”,但长此以往并非好事。Section公司CEO Greg Shove享使用AI经历,指出未来知识工作者将化为“AI驾驶员”与“AI乘客”,并给出成为AI主人的方法。

新智元
开源动态8

2K+ star!这款钟搭建 AI 知识库的项目,真的绝了!

GitHub上爆火的开源项目PandaWiki,两周揽2K star,是AI大模型驱动的知识库搭建系统。它将AI能力深度融入全流程,有强大富文本编辑等特色,还能灵活部署,适合中小团队和个人开发者。

开源先锋
产品应用7

这样更公平:用jina-reranker-m0为多模态文档打重排

文章指出多模态搜索领域给文档综合评难,因文本与图像评缺乏可比性。2025年4月发布的jina - reranker - m0可解决此问题,其两阶段检索流程能显著提升召回率,对多模态AI系统设计有启发。

Jina AI