多GPU性能」共找到 5660 篇相关文章

新闻资讯7

刚刚,1122人干出“国产GPU”第一股,摩尔线程成功IPO:开盘股价疯涨,市值破2800亿!专家:国产AI芯片商业化进入关键期

今天摩尔线程在科创板挂牌上市,募资 80 亿用于核心产品研发。其团队技术强,研发投入高但仍亏损,预计 2027 年盈利。产品迭代快,不过与国际龙头有差距,专家认为国产 GPU 商业化关键在软件生态。

InfoQ
开源动态8

开启RL Scaling新纪元,siiRL开源:完全分布式强化学习框架,支持超千卡规模高效训练

传统强化学习框架在模型和集群规模达上千块GPU时,存在扩展性瓶颈和效率低下问题。上海创智学院团队推出siiRL,采用全分布式架构和控制器范式,解决传统框架痛点,在方面验证了其高性能

机器之心
推荐文章8

NVIDIA技术沙龙 《大规模EP优化:PD分离MoE并行方式》课程笔记

本文是NVIDIA技术沙龙课程笔记,介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新,还对比模型架构,展示推理服务架构性能特点与优化策略,以及各技术工作流程和效果。

GiantPandaLLM
推荐文章7

性能全闪并行文件系统的设计和实践

焱融科技 CTO 张文涛在 QCon 大会分享‘高性能全闪并行文件系统的设计和实践’,介绍了焱融全闪文件存储架构和 YRCloudFile 技术细节,分享其解决 AI 训练存储难题的方案。

InfoQ
推荐文章7

GPU为什么能取代CPU,成为计算领域无可争议的核心?

过去CPU是计算核心,如今GPU凭借并行处理能力崛起。在人工智能、大数据等领域,GPU优势明显,软件支持也推动其普及。未来,GPU将在更领域发挥作用,还会与CPU融合。

芯师爷
新闻资讯7

Morgan Stanley:中国 GPU的产能、良率、价格及收入

这是Morgan Stanley对中国GPU自给自足程度研报的部分内容,列出华为昇腾系列GPU 2024 - 2027年产能等情况。估算2024年中国AI GPU自给率34%,2027年将提至82%,还分析了半导体自给率提升原因及各领域国产化进程。

芯师爷
推荐文章8

智能体在「燃烧」Token!Anthropic公开发现的一切

Anthropic发布智能体研究系统构建解释,解决智能体研究困惑。智能体系统优势明显,在特定任务中表现出色,但token消耗大。其架构独特,还介绍了提示词工程、评估方法、面临的工程挑战等内容。

机器之心
8

国产GPU组了个开源局,把SGLang等核心开发者都摇来了!

国产GPU玩家摩尔线程举办SGLang × MUSA Meetup,邀请众开源圈开发者。活动探讨如何让国产GPU进入大模型推理主流开源工程链路,显示国产GPU竞争迈向生态坐标之争。

量子位
开源动态8

腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s

腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法,通过PD分离、层MTP优化等全栈优化方法论,还介绍性能优化方案,后续预计性能突破20000 tokens/s。

腾讯技术工程
推荐文章8

游戏研发中的 AI 转型:网易 Agent 系统与知识工程实践

本文整理自网易游戏高级技术经理林香鑫分享,其团队通过代码知识谱图构建、 agent RAG 召回等技术打造超级助手,在业务场景落地效果好。还介绍知识工程、 Agent 赋能代码编写、AI 审查等实践及未来展望。

AI前线