搜索：后Transformer架构

「后Transformer架构」共找到 3687 篇相关文章

LinkedIn 重构服务发现：在大规模环境中用 Kafka 和 xDS 取代 Zookeeper

LinkedIn 工程博客中，Bohan Yang 介绍升级基于 ZooKeeper 的传统服务发现平台项目。因传统系统有扩展性问题，团队开发新架构，分离读写路径，实施双读双写机制，迁移后数据传播延迟显著改善。

本文分享作业帮 2025 年 StarRocks 替换 Presto 的实践，涵盖历史背景、技术方案、双跑方案、结果分析，还提及核心问题及解决办法，项目上线后在资源、架构、性能上均有收益，也有未来规划。

上海交通大学李元祥教授等团队提出ITFormer架构，构建EngineMT-QA数据集。ITFormer能融合时序数据与大语言模型，适配多种编码器和模型，在EngineMT-QA预训练后达SOTA水平，实现高效数据分析。

通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。

动视暴雪、斯坦福大学和英伟达等研究人员基于职业玩家游戏数据和Transformer架构，开发游戏大模型MLMOVE。在《反恐精英：全球攻势》测试中，它表现出色，性能超现有机器人，还具提前预判移动等创新。

文章讲述AMD发展历程，从初创小公司成长为半导体巨头。早期靠模仿生产立足，后获x86授权。历经起伏，苏姿丰时代推出Zen架构处理器逆袭。2025年与OpenAI合作，MI450有望打破英伟达垄断。

北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。

模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。

清华朱军等团队提出多模态生成框架 UniCardio，在单扩散模型中实现心血管信号去噪、插补与跨模态生成。它采用扩散模型和 Transformer 架构，结合持续学习范式，实验表现优，有望用于多领域。

谷歌提前后量子密码迁移截止日期至2029年，两篇论文从不同层面优化Shor算法，显示量子计算机破解现有密码体系所需资源比预想少。以太坊架构使其面临更广攻击面，比特币也有局部隐患。