「双Transformer架构」共找到 2068 篇相关文章
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
智能投顾的大模型应用，为什么选择了“大小模型协同”？
大模型时代，金融智能投顾落地是技术与业务安全的双重挑战。北银金科高级算法专家尹辰轩表示采用“大小模型协同”架构，能在性能、准确性与合规间找平衡，还阐述了架构亮点、问题解决办法等。
性能不减，吞吐量提升6.4倍！英伟达用混合算子和架构定义小模型新标准
NVIDIA研究团队通过Nemotron - Flash系列模型，打破对‘深而瘦’架构迷信，修正缩放定律，用进化算法搜索混合算子、改进训练策略。该模型在性能、延迟和吞吐量上表现出色，远超同类产品。
长文本生成迎来新突破：拓元智慧推出 DrDiff ，实现效率与质量双提升
拓元智慧联合多团队开发出 DrDiff 框架，解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”，有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件，经测试表现良好，未来应用值得期待。
Meta宣布AI研究架构调整，成立TBD Lab，取消AGI Foundations团队，强化超级智能战略
Meta进行AI研究架构大重组，将业务分为研究、训练、产品和基础设施四个团队。成立TBD Lab探索新方向，如构建‘omni’模型；FAIR成创新引擎；解散AGI Foundations团队。旨在强化超级智能战略。
Multi-Agent 的灵活编排之路
文章从Copilot 3.0架构规划模块出发，结合DeepSeek R1强化学习训练实践，探讨多智能体架构下大模型编排智能体解决问题。分析Copilot 2.0局限并介绍3.0升级，指出难点，展示效果对比及解决方案。
SGLang 贴近硬件：用编译产物（PTX/SASS）评审 PR #26588、DeepGEMM 与架构迁移
本文从「编译产物评审」视角，分析 SGLang 的 PR、FlashInfer DeepGEMM 及 Ampere→Hopper 架构迁移案例。指出算法面和编译产物面会有分歧，编译产物 diff 能提前揭示执行路径变化，对开源项目有增益。
即将开源 | 阿里云Tair KVCache Manager：企业级全局 KVCache 管理服务的架构设计与实现
阿里云Tair KVCache团队联合多团队将开源Tair KVCache Manager，介绍其架构设计与实现。该服务应对Agentic AI下KVCache存储挑战，解决传统模式难题，具备企业级管理能力，后续还会完善多方面功能。
后端架构新范式！阿里云专家亲揭：用RocketMQ彻底搞定多Agent异步协同难题
文章整理自阿里云专家演讲，介绍基于 Apache RocketMQ 新特性构建异步化 Multi - Agent 系统，探讨 Agent 间异步通信等机制，指出 Multi - Agent 协同关键，还讲了 RocketMQ 新特性及如何构建异步系统。
拒绝重复造轮子！抽象 80% 工作场景，打造可复用的"AI 助手工厂”
文章指出，为解决重复开发AI助手的效率问题，智空间团队将高频需求抽象为可复用技术方案，打造“AI助手生产线”。介绍四大高频场景本质、共性挑战及对应方案，还阐述分层架构、解决方案、prompt架构等，最终落地“助手工厂”产品。