「并行扩展」共找到 674 篇相关文章
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
她如何把“系统2”带给了大模型 ｜对话微软亚洲研究院张丽
本文是量子位对微软亚洲研究院首席研究员张丽的访谈。张丽团队在2023年开始探索大模型深度推理能力，2025年1月发布rStar - Math，用蒙特卡洛搜索算法让7B模型实现o1级数学推理能力，引发广泛讨论。
腾讯助力Deepseek完善DeepEP,RoCE提升100%，InfiniBand提升30%
Deepseek团队合并腾讯提交的代码完善DeepEP，称有巨大速度提升，RoCE提升100%，InfiniBand提升30%。DeepEP是为混合专家模型和专家并行设计的通信库，有多项创新特性，适合现代AI应用。
向量数据库要被取代？DynamoDB 开始原生支持 AI 搜索
Amazon DynamoDB 推出原生向量搜索，允许开发者将嵌入向量与应用数据存一起，直接在其中运行近似最近邻查询，无需单独向量数据库。介绍了功能特点、成本计费及开发者反馈等。
在校生开发，榨干 win 系统全部带宽！
介绍在校生开发的开源工具 HypoMux，它面向 Windows，能把多张网卡「绑」在一起，让下载任务多线路并行。有双模式可选，还能智能分流，兼容主流加速器。操作简便，可解决下载慢问题。
把VLM塞进隐式世界模型，小鹏机器人新框架让机器人长出物理直觉
机器人大脑架构中VLM和VAM路线各有短板，香港大学、小鹏机器人等团队提出DIAL框架，让VLM在原生特征空间做隐式世界建模，解耦认知决策与底层执行，在机器人部署中表现优异。
奥特曼遭遇死亡威胁：凌晨家中被投燃烧瓶
当地时间凌晨3:45，OpenAI CEO奥特曼家中遭20岁男子投掷燃烧瓶，嫌疑人已被捕。奥特曼发文报平安，还分享家人照片，同时写下对AI行业现状思考及与马斯克等冲突的反思。
这个 skills 太硬核了，刚开源就斩获 1.7K Star！Agent 联网能力拉满！
AI开发者圈热议让AI助手真正“上网”，Claude Code原工具局限性大。web - access skill横空出世，从底层架构重新设计，解决其三大短板，让Claude Code可自由穿梭互联网，功能强大且安装使用方便。
告别噪声初始化：NTU MARS Lab提出A2A新范式，实现机器人高性能单步动作生成
新加坡南洋理工大学 MARS Lab 提出 Action-to-Action (A2A) Flow Matching 新范式，以历史机器人轨迹为生成起点，打破生成速度与精度瓶颈，在训练效率、推理速度及泛化表现上佳，还可扩展至视频生成领域。