「步数蒸馏」共找到 599 篇相关文章
一个模型超了DeepSeek R1、V3，参数671B，成本不到350万美元
Deep Cogito 是旧金山 AI 初创公司，开源四款混合推理模型。最大 671B MoE 模型性能超 DeepSeek v3 等，推理链比 DeepSeek R1 短 60%，训练成本不到 350 万美元。核心方法是迭代蒸馏与增强。
豆包 Seed 2.0 来了：字节模型跨越鸿沟
春节前字节发布豆包大模型 2.0，其在 Text 领域进入榜单前十，视觉能力全球第四且成本低。它定位多模态 Agent 模型，有多种能力升级，文中用多个案例展示其强大，还强调字节重原生能力非简单蒸馏。
Agent新王诞生！Hermes 7周追上龙虾，中国用户可微信直连
2026年二季度，Hermes Agent成新潮流，由美国Nous Research开源，其GitHub stars数达84.4k。国内云厂商支持部署，手机厂商接入并限免。它原生支持微信，开发者评价高，与OpenClaw双雄并立，正掀起生产力革命。
西湖大学于开丞创业做概念世界模型，过亿元融资后首次公开发声
2023 年于开丞做世界模型无人看好，如今该领域大热。他曾否定自己成功工作，提出“概念世界模型”解决泛化问题。其创办的西湖数智已融资超 1 亿，还分享了技术路线及对行业的看法。
提示工程死亡？不，它刚刚重生为计算科学：一篇讲透Prompt设计的科学基础
大型语言模型在多步推理任务中受挫，因Transformer架构有计算深度限制。本文建立提示设计理论框架，揭示提示是信息选择器，优化提示可使推理性能提升超50%，将提示设计从试错艺术变为可计算科学。
88岁图灵奖得主，用Claude一小时破解30年数学悬案
88岁图灵奖得主高德纳发文称，他研究数周、可追溯到30年前的三维图论开放问题，被Claude Opus 4.6仅用1小时、31次探索就破解，还给出通用构造算法，这让向来对生成式AI保留的他致敬Claude。
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
Skills驱动推理新范式，清华&北大：Token立省59%，准确率不降反升
当前推理模型虽准确率高，但生成“思考过程”会使推理成本和延迟上升。奇元科技、清华、北大等提出TRS框架，将历史推理轨迹蒸馏成技能卡片，在推理时检索注入，实现更少Token、更高准确率。
账号与身份防线全面失守：黑灰产 Agent 化攻击下，如何用“第一性原理”重建防线？
11月13日，Anthropic报告称黑客利用AI Agent化能力达新高度，攻击模式转变使传统风控防线失效。数美科技CTO梁堃指出防御要下沉至‘第一性原理’，详解‘反欺诈三定律’，还提出‘不确定性标签’等方案。
谁说Scaling Law到头了？新研究：每一步的微小提升会带来指数级增长
很多人质疑扩大计算规模训练模型的做法，因Scaling Law面临收益递减。但新研究发现，模型单步准确率的微小提升能使完成任务长度指数级增长，还探讨了长程执行能力的衡量及影响因素。