「GPU性能分析」共找到 3173 篇相关文章
阿里云 Tair 基于 3FS 工程化落地 KVCache：企业级部署、高可用运维与性能调优实践
本文介绍阿里云 Tair KVCache 团队与服务器研发存储软硬件结合团队对 3FS 的工程化升级实践。从性能、产品、运维维度优化，为高性能 KVCache 在企业级 AI 场景落地提供范式，还提及未来 3FS 产品化及服务器硬件升级方向。
狂揽20.2k星！还在傻傻的写SQL吗，那你就完了！这款开源项目，让数据分析像聊天一样简单？再见吧SQL
开源项目PandasAI让数据分析像聊天一样简单，由Sinaptik AI团队打造，将ChatGPT级自然语言处理能力注入Pandas。它有对话式分析、智能图表生成等亮点，适用于多场景，还给出使用步骤及与同类工具对比。
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现，与PyTorch原生实现对比，该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
当英伟达收购Groq引发行业震动，中国存算一体赛道正在发生什么？｜甲子光年
2025年底英伟达200亿美元收购Groq，让存算一体成产业刚需。传统GPU受存储墙限制，算力利用率低。Groq采用SRAM成本高，而亿铸科技以消费级显卡价格提供H卡性能，兼容CUDA，或成产业真需求。
本周推荐的6个超级6的Github开源项目！
本文推荐6个GitHub开源项目。如WeClone用微信记录定制数字分身、支持语音克隆；Windmill将脚本转工作流和UI；Zed是高性能Rust代码编辑器；webfunny_monitor监控前端性能；Rybbit分析网站流量；Lite XL是轻量级文本编辑器。
GraphQA：用自然语言对话分析图数据
图数据常见但分析门槛高，需懂算法和代码。NetworkX 算法多却复杂，普通用户难上手。GraphQA 搭建桥梁，用自然语言接口替代复杂 API，智能选算法，继承 NetworkX 优势还解决易用性问题。
现代GPU体系结构Cache Operators行为研究
本文基于Compute Capability 8.9的L20 GPU进行实验，对NVIDIA PTX Cache Operators行为做进一步探究，验证了STG指令命中L1 Cache时执行Write Through等结论，还提出了遗留问题待解决。
拆解机器人，分析其软硬件弱点（1)
国外公司对某款机器人做了深入拆解分析。介绍了机器人硬件关键信息，包括外形、各部分组件等。还指出硬件存在多种攻击途径及安全隐患，如物理访问点、JST 连接器等问题，RK3588 也有漏洞。
Meta通过简单算术解锁LLM SoTA性能
大型语言模型训练耗算力与时间，传统模型融合方法有局限。本文提出SoCE新方法，通过筛选专家模型、非均匀加权平均融合，在多评测中实现先进性能，为LLM优化提供新思路。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。