「多GPU性能」共找到 5799 篇相关文章
分钟级定位 IO 瓶颈：多租户云环境下的智能诊断
随着云上规模扩张，多租户云环境下 IO 请求量剧增，IO 问题排查难。阿里云操作系统控制台构建 IO 一键诊断能力，能快速识别问题类型、把握诊断时机、屏蔽复杂关联流程，还介绍了实现原理和案例。
国产 AI 昇腾推理不再高门槛？开源技术栈推理性能对比解析
文章聚焦昇腾 NPU 大模型推理，对比 MindIE 和 vLLM Ascend 推理性能。因 MindIE 使用门槛高，昇腾联合 vLLM 社区推出插件。实验用 GPUStack 平台，结果显示二者在不同场景各有优势，呼吁构建国产 AI 基础设施体系。
只要9美元！LoRA+强化学习，DeepSeek 1.5B推理性能暴涨20%
南加州大学团队基于LoRA的强化学习训练1.5B推理模型，在AIME 24测试上性能提升超20%，成本仅9美元。开源Tina模型结合三大关键技术，与SOTA模型相比竞争力强，研究者还对其有效性提出假设。
1100多个模型殊途同归，指向一个「通用子空间」，柏拉图又赢一回？
约翰斯・霍普金斯大学研究发现，1100多个不同神经网络，即便训练条件不同，最终权重会收敛到共享低维子空间，表明架构比数据影响大。此发现能解释诸多现象，还有多种应用可能，但也有局限性。
阶跃星辰发布新一代基模 Step 3，原生多模态推理模型，性能达到开源 SOTA
WAIC 2025期间，阶跃星辰上线新一代基础大模型Step 3，7月31日将面向全球开源。还成立“模芯生态创新联盟”，与上海国有资本投资有限公司合作。Step 3性能达开源SOTA，推理效率高，适配多种芯片。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
让NCCL性能起飞的NCCL symmetric memory是啥黑科技？— part1
本文是NCCL 2.27新特性系列首篇，介绍symmetric memory。它类似NVSHMEM，现仅支持单节点通信，未来将支持跨节点。其低延迟内核能提升小数据通信性能，还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。
超760万元奖金悬赏，谁能徒手重构 DeepSeek 与 Kimi 的性能底层？
在大模型工程化需求下，AMD 联手 GPU MODE 发起 2026 线上黑客松：AMD E2E Model Speedrun 全球挑战赛，豪掷 110 万美元。大赛分预选赛和决赛，各设丰厚奖励，目前预选赛已进入倒计时。
MIT和加州联手打造多智能体大语言模型的金融交易框架TradingAgents
MIT和加州联手打造多智能体大语言模型的金融交易框架TradingAgents，将交易任务分解为专业角色，含分析师、研究员等。介绍了安装、CLI使用、包的实现细节等，还提及项目地址。
浙大提出Translution：统一Self-attention和Convolution，ViT、GPT架构迎来新一轮性能突破
近日，浙大与新加坡国立大学提出新型深度神经网络基础操作Translution，融合Self - Attention与Convolution优势，实现二者统一。基于它构建的网络在ViT和GPT架构下性能提升，但对算力要求更高。