「算力性能」共找到 2558 篇相关文章
穷人福音!MIT研究:不用堆显卡,抄顶级模型作业就成
MIT研究把59个不同模型凑一起,发现强大模型对物质理解趋同,且性能越强思维越接近。研究还指出性能不佳模型的问题,认为可通过模型蒸馏让小模型模仿大模型,实现算力自由。
清华团队:1.5B 模型新基线!用「最笨」的 RL 配方达到顶尖性能
清华团队用两个 1.5B 模型证明,用最基础的 RL 配方可达到小模型数学推理能力 SOTA。单阶段训练加固定超参数实现 SOTA 性能且省一半算力,训练曲线还很平滑。
AI算力饥渴和高能耗困局谁来解?两位95后创始人用相变材料光计算构建新范式
AI算力供需失衡致数据中心能耗激增,传统电芯片性能提升放缓。光本位科技由两位95后创立,2024年6月流片全球首颗128×128矩阵规模光计算芯片,推动光计算商业化,正布局产品商用。
高性能全闪并行文件系统的设计和实践
焱融科技 CTO 张文涛在 QCon 大会分享‘高性能全闪并行文件系统的设计和实践’,介绍了焱融全闪文件存储架构和 YRCloudFile 技术细节,分享其解决 AI 训练存储难题的方案。
华为算力“公共事业”:“超节点+全栈开源”如何撬动AI未来?
文章围绕华为算力“公共事业”展开,介绍其“超节点 + 全栈开源”模式。华为通过推出系列算力芯片、构建“超节点 + 集群”方案、全面开源开放软硬件等举措,满足全球产业算力需求,推动AI产业变革。
“中科院系”两家科技巨头合并:国产算力格局要变天?
美国切断部分对华半导体技术出口,国内算力产业有新动作,海光信息换股吸收合并中科曙光。当下中美算力竞争焦点转向‘生态’,英伟达等靠生态占据优势,此次合并或构建国产算力生态。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法,通过PD分离、多层MTP优化等全栈优化方法论,还介绍多机性能优化方案,后续预计性能突破20000 tokens/s。
SemiAnalysis 创始人解析万亿美元 AI 竞争:算力是 AI 世界的货币,Nvidia 是“中央银行”
SemiAnalysis 创始人 Dylan Patel 在访谈中指出,AI 是算力、资金与地缘政治驱动的产业迁徙。算力成新货币,Nvidia 似央行。还谈到 AI 竞争格局、技术路线、算力人才能源问题,以及对传统软件和各玩家的影响。
o3崛起,但推理模型离「撞墙」只剩一年?
OpenAI的o3推理模型诞生不到一年能力突飞猛进,算力暴增10倍。但Epoch AI等警告,最多一年推理模型或撞上算力资源极限。还从其他模型和业内人士看法分析推理算力,指出算力与性能有关联,也有发展瓶颈。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践,涉及GPT - OSS、DeepSeek - V3等模型,采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术,在性能提升、减少延迟等方面效果显著。