「差分蒸馏」共找到 1051 篇相关文章
社区供稿丨揭秘端到端文档OCR模型 POINTS-Reader
腾讯开源端到端文档OCR模型POINTS-Reader,论文被EMNLP 2025主会录取。它提出可扩展数据生成方案,具简洁、性能好、高吞吐量等特点,通过两阶段训练方案解决依赖蒸馏数据问题,在多基准测试表现佳。
ClockBench:一个简单的钟表测试让AI全线溃败
ClockBench测试让11个多模态大模型与5个普通人认钟表时间,人类平均准确率89.1%,最好的AI仅13.3%。AI在复杂钟面表现差,却能处理抽象指令。该测试暴露视觉AI空间推理缺陷,对评估有启发。
DeepMind揭示Reasoning内在机制
近年来大型推理模型在复杂任务表现出色,但推理机制成谜。本文提出用推理图解码其‘思考轨迹’,分析环状结构、直径大小和小世界特性,发现蒸馏模型等特点,为理解AI推理及模型优化指明方向。
Claude Opus 5深夜发布,以一半价格逼近Fable 5。
周六凌晨Claude Opus 5全量上线,在所有Claude产品里可用。它有100万上下文,知识最新到2026年5月。跑分显示其在很多领域逼近Fable 5,价格仅为一半。它和Fable 5各有优势,还带来Claude Code使用的变化。
百度Qianfan-VL开源,纯国产自研昆仑芯跑出世界一流
百度开源全新视觉理解模型Qianfan-VL,有3B、8B和70B三个版本,在昆仑芯P800芯片上训练。该模型多模态能力强,OCR和教育场景表现突出,跑分超国际主流模型。芯片功耗低、架构优,模型训练方法创新。
大模型顿悟原理!Meta新论文说清楚了
Meta超级智能实验室(FAIR)最新论文把大模型顿悟(grokking)现象的数学机制说清楚了。提出Li2数学框架,将两层神经网络的grokking动态分三阶段,还推导了泛化缩放定律等。
【访谈】在黑箱中寻找自我显影——对话苏仲尧|三影堂厦门
苏仲尧个展《打开黑箱说亮话》聚焦摄影人机互动,引向对‘技术黑箱’思考。创作分三阶段,从文字照片到金属板,再结合AI。他将创作主导权回归自身,借作品探讨技术与人关系及当下处境。
ICML2026 | 全新评审政策出炉!作者可选:评审是否使用AI
ICML 2026 为应对预期投稿量,提出互审数量限制和 AI 使用规定。此次引入评审类型选择机制,作者可决定评审是否用大模型,分严格禁止的政策 A 和有限制允许的政策 B,但执行或有困难。
坏了,我成AI的乙方了!Anthropic论文爆火,谁还敢无脑Copy?
Anthropic开年论文实锤AI让程序员变傻,用AI辅助的人比纯手写只快2分钟,且测验平均分低17%。研究将工程师使用AI的交互行为归纳为五种模式,指出主动拷问AI才能进化,高分者会主动制造障碍。
没有国产替代,EDA需“自主可控”突围
在ICCAD - Expo 2025上了解到,国产EDA从业者不期待国产替代,要在新产业机遇找突破。先进封装催生出新的EDA技术需求,硅芯科技推出3Sheng平台应对,还推动产业生态建设。赵毅认为国产EDA可差异化突破、工具级协作。