搜索：transformer架构

「transformer架构」共找到 1955 篇相关文章

The Batch：826 | 提高输出准确性的记忆层

通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。

动视暴雪、斯坦福大学和英伟达等研究人员基于职业玩家游戏数据和Transformer架构，开发游戏大模型MLMOVE。在《反恐精英：全球攻势》测试中，它表现出色，性能超现有机器人，还具提前预判移动等创新。

北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。

清华朱军等团队提出多模态生成框架 UniCardio，在单扩散模型中实现心血管信号去噪、插补与跨模态生成。它采用扩散模型和 Transformer 架构，结合持续学习范式，实验表现优，有望用于多领域。

蛋白质折叠是计算生物学核心难题，SimpleFold作为首个仅基于通用Transformer模块的蛋白折叠模型，摒弃AlphaFold2系列传统架构，能将蛋白序列生成三维原子结构，在多基准测试表现强劲，还可生成结构集合。

大型语言模型在多步推理任务中受挫，因Transformer架构有计算深度限制。本文建立提示设计理论框架，揭示提示是信息选择器，优化提示可使推理性能提升超50%，将提示设计从试错艺术变为可计算科学。

在《Dwarkesh Podcast》访谈中，AI大佬Andrej Karpathy谈AI核心问题。他认为「智能体元年」说法过度，真正能用要十年；AGI也需十年，未来十年AI架构或基于Transformer；还分析了大模型、强化学习等现状与问题。

中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。

多年来，React 一直是全栈 JavaScript 架构基础。但 Remix 3 挑战了这一局面，它遵循渐进式增强和服务器优先原则，将 Web 基本原理置于核心，重新定义构建方式，引发对 React 中心架构的思考。

清华唐杰教授团队等发布大模型记忆架构综述，提出三维记忆分类学，将前沿工作统一到理论框架，为LLM设计指明方向，分析了隐式、显式记忆架构，还探讨混合架构挑战与未来方向。