「Transformer层」共找到 535 篇相关文章
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
算力极限下，OpenAI 急着做什么？
OpenAI联合创始人兼总裁Greg Brockman接受专访，就产品战略收拢、新基座模型Spud等议题给出内部判断，回应业界质疑。他称产品调整是算力硬约束下的优先级排序，还透露了产品核心方向和Spud进展。
0.005%参数量超越SOTA！提升模型能力无需庞大奖励模型
上海交通大学等校联合团队提出轻量级奖励模型SWIFT，利用大模型隐藏状态线性特征，仅训练极小线性层，在推理任务中超越主流奖励模型，实现计算效率与准确率双提升，且在多领域表现出色。
挖掘注意力中的运动线索：无需训练，解锁4D场景重建能力
香港科技大学（广州）与地平线团队提出VGGT4D，通过分析VGGT内部机制，利用注意力层运动线索，提出无需训练框架，在动态物体分割等任务表现优异，为低成本4D重建提供新思路。
将导游装在口袋里：AI 对景区游览新赋能
同程旅行研发的“同程伴游”AI助理，能为景区游客答疑解惑，实现原生数字化导览。它可按需讲解、避免走回头路，还能生成数字旅行日记。其基于高精度定位和大语言模型，未来还将持续升级。
LLM 语境下，「持续学习」是否是 「记忆」 问题的最优解？
本期通讯解读 3 个 AI 业内要事，包括谷歌嵌套学习范式引争议、AI 产品记忆方向探讨、英伟达合成数据等。谷歌 NL 范式想规避遗忘问题，测试中 HOPE 表现优，但也遭质疑，当前 LLM 研究更关注改善记忆。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
谢赛宁新作：VAE退役，RAE当立
谢赛宁团队研究表明VAE时代结束，RAE将接力。RAE是用于扩散Transformer训练的新型自动编码器，能提供高质量重建结果，有语义丰富潜空间，支持可扩展架构，收敛快，在ImageNet图像生成效果强劲。
AI 原生设备爆发，操作系统迎来更智慧、更流畅、更安全的范式革命
AI原生设备爆发，传统操作系统面临挑战，将迎来范式革命。vivo蓝河操作系统3（BlueOS 3）全栈自研，具备“天生更智慧、更流畅、更安全”特质，本文以此为例解读操作系统架构重塑。
“iFold”，苹果AI新成果
苹果发布基于流匹配的蛋白质折叠模型SimpleFold，被戏称“iFold”。它用通用Transformer模块搭配流匹配生成范式，3B参数版本追平谷歌AlphaFold2性能，还解决了传统模型算力依赖问题，效率高。