「并行循环Transformer」共找到 616 篇相关文章
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
史诗时刻！AlphaGo神之一手突现，谷歌AI颠覆科研极限？
谷歌DeepMind推出AlphaEvolve，它取得多项数学成果，如改进4x4矩阵乘法、推进六边形填充问题研究等。它能自我进化，还可优化谷歌计算基础设施，预示人类与AI强大协作循环的未来。
腾讯助力Deepseek完善DeepEP,RoCE提升100%，InfiniBand提升30%
Deepseek团队合并腾讯提交的代码完善DeepEP，称有巨大速度提升，RoCE提升100%，InfiniBand提升30%。DeepEP是为混合专家模型和专家并行设计的通信库，有多项创新特性，适合现代AI应用。
在校生开发，榨干 win 系统全部带宽！
介绍在校生开发的开源工具 HypoMux，它面向 Windows，能把多张网卡「绑」在一起，让下载任务多线路并行。有双模式可选，还能智能分流，兼容主流加速器。操作简便，可解决下载慢问题。
英伟达MoE新开源：一行import，微调加速3.7倍
英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。
人工智能无法加速软件交付
文章以养狗比喻，指出有些机构用AI只看重速度，速度并非目标，为速度用AI缺乏可信度。强调应看重反馈，以反馈循环主导软件交付流程，还给出团队规模、产品开发等建议。
人形机器人绕不开的坎：续航问题怎么破？
人形机器人续航问题常被忽视，但它面临电池重量、行走能耗、脉冲负荷三个维度约束，标称续航在实际工况会打折，工程上可通过快速换电和提升单次充电电量应对，固态电池有潜力但有待验证。
The Batch: 943｜液体和气体如何运动
传统数值方法模拟复杂物理系统慢且贵，基于机器学习的模拟通常只适用于特定系统。研究人员构建通用 transformer 模型 Walrus，可模拟流体运动，开源且在多方面表现出色，有望加速多领域模拟工作。
这个 skills 太硬核了，刚开源就斩获 1.7K Star！Agent 联网能力拉满！
AI开发者圈热议让AI助手真正“上网”，Claude Code原工具局限性大。web - access skill横空出世，从底层架构重新设计，解决其三大短板，让Claude Code可自由穿梭互联网，功能强大且安装使用方便。