「Transformer层」共找到 535 篇相关文章
腾讯混元TurboS技术报告首次全公开：560B参数混合Mamba架构，自适应长短链融合
腾讯公开混元TurboS技术报告，该模型是超大型Hybrid Transformer - Mamba架构MoE模型，融合Mamba与Transformer架构优势，有自适应长短思维链机制，激活参数56B。在多评测中表现佳，推理成本低。
AI产业链投资大逻辑：第六集
本集聚焦AI产业链应用层悖论。应用层离用户近、故事性感，但现阶段易让投资者犯错。虽有诸多火热产品且公司估值高，但‘创造价值’与投资者‘以好价格买价值’并非一回事。
英伟达GPU，将沦为白菜价
硅谷投资大佬Peter Thiel称AI芯片最终会成白菜价。当前英伟达靠垄断赚大钱，但AMD、ASIC、TPU、Trainium等正围剿它，利润将从硬件层转移到应用层，英伟达可能慢慢走下坡路。
Qwen-lmage-Layered：图片分层 指哪改哪
全新图像生成模型Qwen-lmage-Layered采用自研架构，将图片“拆解”成多个图层，各图层可独立操作。其提出新编辑思路，有RGBA - VAE等亮点，支持灵活迭代分解，能实现精准高效的图像编辑。
硅谷知名投资人Jaya Gupta：AI公司真正的护城河，是组织本身
硅谷知名投资人Jaya Gupta认为，AI时代竞争从技术层坍缩到组织层，公司真正的护城河是底层的「机构」，人就是公司本身。伟大的公司为特定人才提供表达自我的结构，在身份认同等方面竞争。
The Batch: 865 | 机器人外科医生的切割与夹闭
约翰·霍普金斯大学等团队开发Hierarchical Surgical Robot Transformer（SRT - H），结合两个transformer模型，通过模仿学习训练，用达芬奇机器人完成胆囊切除关键步骤。虽在体外组织测试表现好，但应对人体手术仍有挑战。
Generalist爆火背后：具身智能真正的竞争，已不在模型
Generalist AI发布的GEN - 1模型引爆具身智能领域，其多项指标出色，预示具身智能竞争从模型层转向基础设施层。行业关注焦点转移，数据正从‘静态数据集’演进为‘动态教育系统’，评测与仿真基础设施成关键。
Agent 真正的护城河，正在从工具转向记忆资产
2026年初，Anthropic用Claude Cowork引发AI创业热点，其计划引入知识库获“永久记忆”能力，将Agent Memory探索推到前沿。文章探讨独立Memory层成必需品的原因、工程化记忆系统的能力，还对比模型厂商和第三方中立派路线。
HAMi 2.7.0 重磅发布 | 异构芯片全面拓展，调度更稳、生态更强
Dynamia密瓜智能宣布发布HAMi 2.7.0版，在硬件生态、调度器、应用层生态等方面有显著进展。硬件上支持昆仑芯、燧原、AWS等芯片；调度器优化了资源计算和可观测性；应用层与vLLM、Xinference等整合。
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。