「性能加速」共找到 2436 篇相关文章
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现，与PyTorch原生实现对比，该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
上海AI Lab发布混合扩散语言模型SDAR：首个突破6600 tgs的开源扩散语言模型
上海人工智能实验室提出全新范式SDAR，通过‘训练 - 推理解耦’融合AR模型高性能与扩散模型并行推理优势。实验证明，SDAR性能与原版AR模型持平或超越，还能加速推理，且已全面开源全系列模型。
ICLR 2026 | 越推越快! 首个面向「Test-Time Scaling」的投机解码基准
文章指出推理阶段扩展（TTS）能提升推理大模型解决复杂问题的能力，但会产生大量冗余计算。为此提出首个面向TTS的投机解码加速综合基准，评测显示N - gram方法在特定场景加速潜力大，混合策略性能更优。
Agent也能蒸馏了！性能超好
大模型运行成本高，普通用户用不起。传统小模型模仿大模型解题步骤易出错。论文提出Agent蒸馏，让小模型学会用检索和代码工具，还加首思前缀与自我纠错“外挂”，使小模型性能直逼大模型。
AMD服务器上一个诡异的性能问题诊断历程
本文复盘AMD服务器高优故障，从8月底起，集团amd turind机器业务cpi和cpu利用率飙升，影响业务性能。经排查是split lock问题，由python解释器调用__libc_free时出错引发，还分析了问题原因、传导路径，并给出应对措施。
性能提升400%！AutoResearchClaw自主设计多模态记忆大脑
AI助手积累海量多模态数据，记忆和提取成瓶颈。北卡罗来纳大学等团队用AutoResearchClaw让AI 72小时完成多模态记忆系统设计，性能提升超400%，新系统OMNIMEM全面碾压现有主流系统。
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
ZeroGPU Spaces 加速实践：PyTorch 提前编译全解析
本文聚焦 ZeroGPU Spaces 加速实践，介绍 PyTorch 提前编译。ZeroGPU 使在 Hugging Face Spaces 用 Nvidia H200 硬件更高效，但有局限。提前编译可优化模型，提升演示速度，还分享了接入方法、高级技巧及演示示例。
OpenAI神秘项目曝光：cderGPT，用AI加速药物评估
OpenAI神秘项目cderGPT曝光，用于加速药物评估。FDA局长指出新药上市耗时长且未实现技术现代化，不过目前该项目细节未透露，有人支持用AI辅助审查，也有人担心其可靠性。
9 个加速开发者生产力的开源 AI 与 MCP 项目
Github官方精选9个开源项目，分框架与平台集成、开发者体验及AI增强编码、自动化与测试编排三大主题。各项目聚焦不同功能，如将MCP嵌入框架、语义理解辅助编码、安全执行调试等，能加速开发者生产力。