「系统架构」共找到 3296 篇相关文章
为MoE解绑：全新「专家即服务」推理架构发布，超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长，MoE架构虽能避免计算量同比增，但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS，实验显示它能锐减37.5%成本。
斩获6.6K star!!再见了U盘、PE盘，一键重装Windows/Linux，几十种系统随便换，真绝了！
介绍GitHub开源重装神器`reinstall`，它能跨系统无门槛重装，支持多系统，自动处理网络驱动，适配性强。安装使用简单，从用户痛点出发，是综合性VPS管理工具。
硬核拆解大模型，从 DeepSeek-V3 到 Kimi K2 ，一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。
还得是华为！Pangu Ultra MoE架构：不用GPU，你也可以这样训练准万亿MoE大模型
华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。
架构彻底重构！DeepSeek新模型代码曝光，要来的V4让国内外都坐不住了？
DeepSeek官方GitHub代码库曝光代号“MODEL1”新模型线索，或为V4内部代号。代码显示其有重大架构变更，能并行处理稀疏与稠密计算，适配英伟达新架构。此前R1发布推动中国AI开源生态发展，新模型备受期待。
Openai-o3 做不到的事,7B 模型做到了! 推荐系统“慢思考”,广告收入暴涨 4.1%
随着GPT - 4等大语言模型兴起，LLM用于推荐系统遇瓶颈，当前方法停在‘System - 1思维’阶段。A4ec框架把LLM从‘快思考’升级到‘慢思考’，用7B模型实现推荐系统升级，使广告收入暴涨4.1%。
为什么这篇谷歌论文被称为「Attention is all you need」V2
谷歌新论文《嵌套学习：深度学习架构的幻象》引发关注，被称为「Attention is all you need」V2。它指出主流优化器是关联记忆系统，提出嵌套学习范式，构建HOPE架构，为AI设计带来新思考框架。
腾讯网关TGW：用户无感知快速迁移及故障自愈能力 | USENIX ATC '25
腾讯与清华联合论文入选USENIX ATC '25，阐述稳定运行多年的TGW网关架构，展示无损迁移、故障自愈及定位系统。该架构应对业务流量挑战，有高性能、高可用等特性，还分享运营经验。
多智能体在「燃烧」Token！Anthropic公开发现的一切
Anthropic发布多智能体研究系统构建解释，解决多智能体研究困惑。多智能体系统优势明显，在特定任务中表现出色，但token消耗大。其架构独特，还介绍了提示词工程、评估方法、面临的工程挑战等内容。
Grab 订阅平台从 SQS 和 Redis 切换到 Temporal
Grab基于Temporal构建新的GrabUnlimited架构，增强用户体验，将订阅平台生产事件减少80%。原架构用SQS和Redis，随订阅者增多问题频出，新架构利用Temporal特性解决诸多难题。