「GPU折旧周期」共找到 521 篇相关文章
CuteDSL-1: Introduction
文章介绍CuteDSL，它因Cutlass编译慢、调试难等痛点而生，可在Python构建DSL，编译快、调试易且性能无损。文中阐述其架构、使用方法、与PyTorch集成优势等，还提及基于CuTe的开发及性能对比。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
ChatGPT 已经是新一代分发平台，创业公司该考虑怎么抓住增长红利了
文章指出ChatGPT已成新一代分发平台，创业公司应抓住增长红利。介绍了分发平台“开放 - 关闭”周期，分析ChatGPT最可能成最大消费平台，还给出创业公司选择平台标准及企业AI转型建议。
大模型能否为不同硬件平台生成高性能内核？南大、浙大提出跨平台内核生成评测框架MultiKernelBench
深度学习计算依赖底层内核，当前多由开发者手工编写。南大、浙大推出开源评测框架MultiKernelBench，打破现有评测基准局限，构建模块化评测体系，多模型实测，还指出LLM短板并明确未来方向。
简单了解下CUDA Green Context
文章基于Flashinfer实现介绍CUDA Green Context，它在CUDA 12.0+引入，能实现资源隔离、降低多线程性能损失、提高GPU使用率。还给出使用方法及代码示例，不过测试性能未达预期，需关注后续发展。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
苏度 WAIC 首秀：从1到10+技能跃迁，探索通用机器人 Scaling 路径
WAIC 2026上，苏度科技机器人展示了抓取物品等技能，稳定性等表现出彩。苏度成立一年获200亿估值，其创始人苏昊等技术实力强。它构建能力积累体系，采用虚实融合数据路线，坚持软硬件一体，多场景落地成果佳。
英伟达MoE新开源：一行import，微调加速3.7倍
英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。
太初元碁洪源：异构计算能力将成为未来AI算力基础设施的重要方向｜AIGC2026
2026年AI产业进入高强度算力周期，Token成核心资源消耗单位。太初元碁洪源认为，AI算力需更好支撑应用，异构计算将成未来AI算力基建重要方向，太初元碁也在多方面探索实践。