「两阶段推理」共找到 3117 篇相关文章
Transformer可以改装成Mamba了:苹果把推理成本直接打成线性
苹果将Transformer改造成Mamba,采用‘两步走’策略,先造中间形态,再转成Mamba,避免性能崩塌。实验显示,新方法性能几乎没掉,成本逻辑改变,为模型降本重构提供新可能。
老黄入局吃龙虾!英伟达发布最强开源Agent推理模型
英伟达发布并开源120B参数的MoE模型Nemotron 3 Super,在多项测试中表现出色。它原生支持100万token上下文,吞吐量大幅提升。英伟达还计划五年投260亿美元构建开源AI模型,开放全参数权重等。
西湖大学提出RDPO强化学习框架,实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架,不必改动模型本身,优化其“采样导航系统”,在多基准测试中取得领先图像生成效果,解决加速问题并提供RLHF对齐新范式。
AAAI 2026 Oral|LENS:基于统一强化推理的分割大模型
文本提示图像分割技术有战略意义,但基于监督式微调的方法有泛化能力瓶颈。为此引入LENS框架,采用强化学习机制,还介绍其架构、奖励机制,该框架在测试中表现优异,代码已开源。
从"单芯作战"迈向"系统集成":产业变革背景与两大关键技术
随着摩尔定律逼近极限与AI算力需求爆发,集成电路产业正从‘单芯作战’迈向‘系统集成’。文章介绍Chiplet和SoW技术内涵、优势,对比二者差异,还提及中国‘软件定义晶上系统’技术路线及产业发展现状。
两周 3 万行代码!我们的 7 个 AI “粪堆求生” 最佳编程实践
作者分享开发 AutoDev Workbench 时用 AI 辅助编程的 7 个实践,包括用 DeepResearch 脑暴需求、多工具构建 UI 原型等,还指出要提升 AI 交互效率和代码质量,形成成熟开发方法论。
强化学习没作用?人大DelTA精准识别关键token,推理正确率大幅上升
人大高瓴研究团队提出DelTA算法,不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架,在多任务上提升base模型效果,还能让训练更稳定。
将DSA注意力引入多模态,快手Keye2.0开启强化推理新范式
快手发布新版多模态大模型Keye-VL-2.0-30B-A3B,率先将DSA机制引入多模态理解场景,解锁256K超长上下文深度感知,还首次解锁Agent协作机制。该模型在多方面表现出色,且将融入业务带来收益。
Anthropic冲刺9000亿美元估值:48小时定生死,两周内见分晓
Anthropic给潜在投资者下48小时参与融资的最后通牒,融资规模约500亿,目标估值9000亿。部分早期投资者跳过,公司需资金支撑算力。若达成,将超OpenAI,这或为上市前最后一轮私融。
在中国 AI 生态圈摸底了两周,我学到了什么【译】
作者 José Maria Macedo 在中国考察 AI 生态后,看法变得复杂。他看好中国硬件,但对软件更悲观;指出中国创始人特质与西方不同,本土 VC 加剧此现象;还提到市场泡沫、全球市场布局等情况。