搜索：混合架构模型

「混合架构模型」共找到 8567 篇相关文章

DeepMind：Transformer存在拓扑缺陷，思维链治标不治本

谷歌DeepMind论文指出，Transformer架构不擅长追踪状态，思维链只是给结构性缺陷打补丁，成本高。论文主张用循环架构替代或补充纯前馈结构，还提出多个研究方向，认为下一代模型需构建‘流动的现实表示’。

大模型落地进入深水区，企业级软件底层逻辑发生“脱胎换骨”变化。以特赞提出的GEA架构为例，企业软件竞争从模型能力转向认知结构，价值结构、引力中心等都在改变，软件订阅也从席位转向决策。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

高可靠性气动数据降本增效是关键命题。本研究总结主流多精度建模方法，提出基于共享并行架构的融合策略，区分公共与私有特征，提升融合框架表征能力，还通过算例验证方法有效性。

动视暴雪、斯坦福大学和英伟达等研究人员基于职业玩家游戏数据和Transformer架构，开发游戏大模型MLMOVE。在《反恐精英：全球攻势》测试中，它表现出色，性能超现有机器人，还具提前预判移动等创新。

微信WXG技术架构部IH-VQA团队在CVPR2025大赛夺冠，首创iMatch图文匹配质量评估方案。文中介绍赛事背景、规则，团队通过双模型驱动等策略获胜，还构建iMatch-Benchmark评估主流T2I模型。

2026年具身智能竞争激烈，阿里达摩院开源RynnBrain“具身大脑”。它采用分层架构，在16项评测中超越前沿模型。还介绍了核心技术、训练策略等，且全系列模型、评测基准和代码均开源。

DeepSeek最新论文从硬件架构和模型设计双重视角，探讨如何相互配合实现低成本大规模训练和推理，分析硬件特性对架构选择的影响，研究两者相互依赖关系，还为未来协同设计提出建议。

中国电信天翼AI发布星辰超级智能体，获2025企业级AI Agent榜单央企第一。它依托自研“星辰大模型”，具备全模态、复杂推理等能力。访谈专家指出智能体可直接产出应用，落地需嵌入主业系统，电信持续迭代模型优化它。

蚂蚁集团将LLaDA更新到2.1，通过引入“草稿 - 编辑”机制，打破扩散模型推理速度与质量的对立僵局。它有极速和质量两种模式，还采用混合训练流程及强化学习，在多基准测试中表现出色。