搜索：混合推理架构

「混合推理架构」共找到 3631 篇相关文章

13人干翻Transformer！新架构SSA算力暴减千倍，成本仅Opus 5%

一款基于SSA架构的AI模型SubQ横空出世，其上下文高达1200万Token，计算量比Transformer暴减1000倍，成本不到Claude Opus的5%。打造它的Subquadratic公司仅13人，产品发布后引发AI社区不同反应。

联发科天玑9500首创超性能+超能效双NPU架构，让AI始终在线，融入用户操作。其输出性能、上下文窗口等有显著提升，还解决了模型加载慢等问题，与多厂商合作推动端侧AI落地。

推理语言模型（RLMs）发展显著，DeepSeek - R1发布引发广泛影响且未完全开源。MiroMind等总结其复现研究，关注SFT和RLVR方向，介绍数据构建、方法设计、训练过程细节及实验关键发现。

2025年12月19 - 20日，摩尔线程首届MUSA开发者大会将在北京举行。届时会揭晓新一代GPU架构与路线图，设20+技术专场，还有1000㎡科技嘉年华，展示全栈能力与生态进展。

开发软件时，团队要做产品功能和架构决策，面临选已验证路径还是自辟新路的困境。使用平台和框架虽能加快开发，但有副作用。团队需通过实验判断何时扩展或替换平台。

作者分享近 2 年 AI 翻译经验，将其分为提示词、推理模型、Agent 三个时代，介绍 Agent 翻译与提示词翻译区别，还阐述 Skill 创建迭代、三种翻译模式由来等，给出解决一致性问题等方法。

Claude Opus 4.7发布48小时口碑两极撕裂。官方榜单并列全球第一，但逻辑推理公开测试成绩暴跌，token消耗涨35%，旧接口报错，用户吐槽「更贵、更蠢、更爱顶嘴」，Anthropic虽解释却难平用户怒火。

Transformer之父Llion Jones在TED AI大会上称要把对Transformer的爱好调成「低电量模式」。他认为大量资金与人才涌入使研究被「收窄」，大家只顾卷参数、抢发论文，没人探索新架构，他呼吁找回好奇心。

英伟达韩松团队推出基于后神经架构搜索的高效语言模型Jet - Nemotron，在基准测试中表现出色，准确率与Qwen3等相当甚至更优，生成吞吐量大幅加速。模型构建经多步骤优化，代码和预训练模型将开源。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。