技术文章7
NCCL 2.27新特性:symmetric memory揭秘
GiantPandaLLM
AI 摘要
黄randolf:NCCL 2.27的symmetric memory设计像NVSHMEM,当前仅支持单节点通信,未来支持跨节点。其低延迟内核提升小数据通信性能,还结合案例介绍CUDA内存管理及Symmetric Memory实现等。
阅读原文 · GiantPandaLLM
让NCCL性能起飞的NCCL symmetric memory是啥黑科技?— part1
本文是NCCL 2.27新特性系列首篇,介绍symmetric memory。它类似NVSHMEM,现仅支持单节点通信,未来将支持跨节点。其低延迟内核能提升小数据通信性能,还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
黄仁勋:没有Windows就没有英伟达
本文整理了黄仁勋与纳德拉在微软英伟达联合活动的对话,回顾双方数十年合作历程,分享下一代AI PC、Agent安全、混合智能构想,发布RTX Spark新品,探讨Agent落地的权责问题。
AI科技大本营
新闻资讯8
黄仁勋翻车,谷歌TPU凿穿CUDA护城河
本文是新智元报道,基于SemiAnalysis的第三方测试,谷歌第七代TPU Ironwood推理性价比大幅领先英伟达最新B200、B300,谷歌通过软件重构打破CUDA护城河。
新智元
新闻资讯8
OpenAI:Jalapeño芯片性能反杀英伟达
北京时间昨日凌晨,OpenAI 公布自研推理芯片 Jalapeño 实测结果,其在多指标挑落英伟达 GB300。OpenAI 用 GPT - 6 和加强版 Codex 造芯,9 个月完成硬件设计优化,3 个月搞定软件栈,威胁英伟达 CUDA 根基。
AI前线
新闻资讯8
OpenAI首颗芯片压倒英伟达!CUDA危险?
OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」实测成绩亮眼,AI推理性能超英伟达全系,功耗仅为一半。它从设计到流片仅用九个月,得益于GPT - Astra协助。有观点认为CUDA护城河或已死,OpenAI正打造算力版图。
新智元