「GPU内核优化」共找到 1617 篇相关文章
GPU为什么能取代CPU，成为计算领域无可争议的核心？
文章介绍GPU取代CPU成计算领域核心的原因。对比二者架构差异，指出人工智能、大数据和HPC等领域需并行处理，GPU正擅长此。软件支持也推动其普及，未来还会在更多领域发挥作用。
用子模优化做文本选择、段落重排和上下文工程
文章围绕子模优化展开，介绍其在文本选择、段落重排和上下文工程中的应用。指出当前重排器的缺陷，通过子模优化可解决冗余问题。还给出实验结果，凸显其优势，如理论保证、自动停止机制等。
摩尔线程放大招？新一代 GPU 架构即将揭晓 | Q推荐
2025年12月19 - 20日，摩尔线程首届MUSA开发者大会将在北京举办。大会聚焦全功能GPU，主论坛将揭晓新一代GPU架构，还有20+技术专场及1000㎡科技嘉年华，诚邀全球相关人士共筑国产智能计算生态。
又一款国产高性能GPU问世，实力对标海外巨头
2025年9月22日，芯动科技发布“风华3号”全功能GPU，它架构全面，功能覆盖广，在大模型等领域有多个突破，还适配多生态与系统。该产品能为多行业定制服务，标志国产GPU进入规模化应用阶段。
如何为 GPU 提供充足存储：AI 训练中的存储性能与扩展性
文章分析 MLPerf Storage v2.0 测试结果，探讨不同存储系统在 AI 训练中表现。在满足 GPU 利用率阈值下，能支撑更多 GPU 的存储系统扩展性与稳定性更强，还需关注资源利用率。以太网存储方案灵活且成本效益高。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
性能最高提升7倍？探究大语言模型推理之缓存优化
文章探讨大语言模型推理缓存优化技术演进与未来展望，介绍了主流推理框架vLLM、SGLang，分析KV Cache、Paged Attention、Prefix Caching等技术的优化点，还提及LMCache、DeepSeek的缓存技术，最后提到MCP赋能可视化OLAP智能体应用。
Q2 GPU市场，英伟达独占94%，AMD被逼上绝路？
权威机构JPR报告显示，2025年Q2全球PC用GPU出货量环比增8.4%，CPU出货量也同步增长。这是关税恐慌引发的‘囤货潮’所致。英伟达在GPU领域优势巨大，AMD在CPU战场表现出色，三家旗舰产品各有特色。
【万字长文】大模型训练推理和性能优化算法总结和实践
本文总结大模型落地的训练、推理和性能优化算法与实践，介绍语言模型发展，对比BERT、GPT等训练方式，分析生成式大模型问题，还阐述数据处理、推理优化及训练调优等内容，并给出不同场景技术选型建议。
AIA | 西工大马启悦，高传强等：物理指导的激波抖振抑制翼型优化设计研究
激波抖振影响飞行品质、限制飞行包线。本文提出物理指导的气动优化设计框架，基于DDPG算法，优化RAE2822翼型激波位置与分离区范围，提升抖振起始边界，改善综合气动性能。