「HBM带宽」共找到 51 篇相关文章
指导Harness的越多，收益反而越差
Thinking Machines Lab的《Interaction Models》指出，当下产品形态中，指导harness越多收益越差。问题在协作带宽，提出把“会交互”练进模型本体，介绍了从零训练的interaction model及架构，还指出现有交互评测不足。
全球第一！西湖大学成功登顶Science，卷赢同行背后黑科技揭秘
西湖大学一篇论文登顶Science，力压4篇同主题投稿。其成功除科研人员实力，还靠曙光存储支持。曙光为其AI集群升级，提供单节点带宽150GB/s的存储方案，且已大规模落地科研领域。
基于一个MXFP8量化Kernel谈一谈如何在B200上实现高性能的Memory Bound Kernel
作者向SGLang社区提交基于CUTLASS的MXFP8 Blockscaled Grouped GEMM实现，其中包含量化Kernel。文章关注此Kernel，介绍在B200上实现高性能Memory Bound Kernel的优化技术，如整体设计、向量化与合并访问、Occupancy优化、TMA利用等。
三星按下一场史上最长罢工，但揭下了AI时代贫富差距的遮羞布
三星员工因薪资分配问题拟罢工，后达成临时协议，但其他业务部门不满。AI 推动 HBM 需求暴涨，其市场被少数厂商垄断，技术演进依赖多领域突破。国产存储厂商有机会借供不应求切入市场，长鑫和长江存储传 IPO 进展。
内存四年涨700%，长鑫LPDDR6送样能把价格打下来吗
近期“长鑫DDR6送审”刷屏，实则涉及技术进度、资本事件、供应链前置动作。文章分析长鑫进展含金量，认为国产DRAM首次和国际标准处同一窗口。此轮存储涨价因HBM抽走通用产能，长鑫或补通用市场空缺。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
万万没想到，这家央企竟让香农和图灵又“握了一次手”
中国电信人工智能研究院研发布局的智传网（AI Flow），让信息技术和通信技术融合。在WAIC中，李学龙提出智传网三律，即信容律、同源律和集成律，打破传递智能的‘壁’，为数字世界带来深远影响。
一文读懂：GPU之间是如何进行互联的？
文章介绍GPU互联技术发展，从早期SLI、CrossFire到双GPU卡，再到英伟达NVLink协议。详述NVLink 1.0 - 5.0各代升级，还提及DGX、HGX平台差异，以及NVIDIA GB300 NVL72超节点特点等。
100根内存条换一套房！AI疯狂吞噬全球内存，普通人电脑快买不起了
2025年下半年起，AI撞上「内存墙」，2026年或成「内存受限」之年。巨头扫货致内存产能被吸，消费级市场供给枯竭，价格飞涨。内存成AI瓶颈，科技界正从硬件和架构上革命破局。
仅需一个混频器的无线射频机器学习推理，登上Science Advances！
杜克大学和MIT教授团队提出广播模型并在射频上完成计算的分离式计算方案，在边缘端混频器模拟计算中完成推理，解决传统方案问题，还在测试平台验证，能耗低且能完成多项机器学习任务。