「GPU内核优化」共找到 1625 篇相关文章
刚刚，英伟达新模型上线！4B推理狂飙53倍，全新注意力架构超越Mamba 2
Jet - Nemotron是英伟达推出的小模型系列（2B/4B），由全华人团队打造。其提出PostNAS与JetBlock，实现架构优化。相比Qwen3等模型，它在多维度准确率更高，H100 GPU上推理吞吐量最高提升53倍。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
产学研深度融合样本：高校教授携手昇腾，共筑AI算力生态基石｜甲子光年
本文对话华南理工大学陆璐教授，他有丰富业界经验，回归学界后聚焦AI算力平台性能优化。其团队与昇腾合作解决性能挑战，成果用于开源与产品集成。陆璐还对算力生态未来给出战略与实操建议。
Lilian Weng：Harness才是模型自我迭代的现实起点和关键，而不是直接重写权重
Thinking Machines Lab联合创始人Lilian Weng发文指出，实现AI递归式自我改进（RSI），设计围绕模型的执行系统“Harness”才是现实起点。文中详述Harness设计模式、优化路径，也指出自我改进面临的瓶颈。
史诗时刻！AlphaGo神之一手突现，谷歌AI颠覆科研极限？
谷歌DeepMind推出AlphaEvolve，它取得多项数学成果，如改进4x4矩阵乘法、推进六边形填充问题研究等。它能自我进化，还可优化谷歌计算基础设施，预示人类与AI强大协作循环的未来。
SGLang-Diffusion: 两个月进展
自2025年11月初发布，SGLang - Diffusion获广泛关注。过去两月持续优化，速度提升1.5倍。介绍新模型支持、LoRA支持等进展，还展示性能测试结果，阐述关键改进及未来规划。
微软开源Skill训练框架，让Agent白天干活，晚上自动复盘，Skill的自进化终于可监控了
微软开源SkillOpt v0.2.0，加入SkillOpt - Sleep让Agent可自我复盘。该文本空间优化框架能自动训练和优化skill，有透明化、质量控制等特点，适合重复、可评估任务场景。
斩获4.1K star，再见tcpdump！这款开源神器让网络分析快如闪电！
Kyanos是基于eBPF技术的开源网络分析工具，能透视Linux内核网络活动，解决分布式系统网络难题。它零配置、有内核级透视和智能流量解密能力，功能丰富，应用场景广，相比同类优势明显。
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
聊聊AI应用架构演进
本文按AI应用架构演进路线，介绍每次演进增加的架构内容及相关技术，涵盖从简易架构到Agent模式等各阶段，还提及监控、推理性能优化等，助读者整理新技术，为探讨AI与传统应用架构异同做调研。