「并行处理」共找到 1175 篇相关文章
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
GitHub 如何用 AI 重构反馈处理机制
GitHub 引入由 AI 驱动的工作流，将无障碍反馈转化为工程工作。系统基于 GitHub Actions、Copilot 和 Models APIs 构建，集中管理报告、分析合规性、协调问题解决。采用后问题解决比例提升，时间下降。
高性能全闪并行文件系统的设计和实践
焱融科技 CTO 张文涛在 QCon 大会分享‘高性能全闪并行文件系统的设计和实践’，介绍了焱融全闪文件存储架构和 YRCloudFile 技术细节，分享其解决 AI 训练存储难题的方案。
二创党福音！基于AI的开源智能视频切片处理系统
AutoClip是基于AI的开源智能视频切片处理系统，能自动从多平台下载视频、提取精彩片段并生成合集。适合UP主、内容创作者等，有多平台支持、AI智能分析等特性，部署方式简单。
ICCV 2025 | EPD-Solver:西湖大学发布并行加速扩散采样算法
扩散模型成生成任务主流技术，但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法，融合三类加速思路优势，可减少积分误差、提升生成质量，还能作插件集成，突破扩散模型速度与质量权衡瓶颈。
JSON 瑞士军刀，效率直接起飞！
现在很多接口、日志、配置文件用JSON，数据结构复杂时处理麻烦。`jq`是专门处理JSON的工具，支持格式化、过滤、提取等操作，语法简单，在多场景常见，安装方便。
内存直降50%，token需求少56%！用视觉方式处理长文本
在NeurIPS 2025论文中，南京理工大学等校研究团队提出VIST框架，为大语言模型长文本高效推理提供视觉解决方案。它模仿人类阅读机制，让模型具备选择性阅读能力，减少Token需求和内存使用。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
微软重磅开源！22K星的 VibeVoice 再添新成员，60分钟音频 ASR 端到端统一输出！
现在的 ASR 模型处理长音频存在断章取义、说话人错乱等问题。微软开源 VibeVoice-ASR，可一次性处理 60 分钟音频，实现“三位一体”输出，补齐 VibeVoice 生态，还介绍了特点、架构、使用方法与应用场景。