推荐文章7
TileLang核心编程抽象深入解析
GiantPandaLLM
AI 摘要
文章指出写kernel有多种方式,TileLang是折中的工具,提供三层编程抽象。介绍其JIT工作流、不同执行后端特点,还有性能优化和基准测试方法,通过GEMM示例对比三层抽象,给出不同情境下使用建议。
阅读原文 · GiantPandaLLM
TileLang深入详解-第二章-TileLang 核心编程抽象
文章深入解析TileLang核心编程抽象,介绍写kernel的方式,阐述TileLang三层抽象特点及适用场景,展示JIT工作流、接口和执行后端,还提及性能优化、基准测试、正确性校验,最后用GEMM示例对比三层抽象差异并给出使用建议。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
Linus用Claude写内核 性能涨3倍
本文报道Linux之父Linus Torvalds在Linux官方内核仓库新增带LLM后缀的分支,他指导Claude Code参与内核内存管理模块的代码编写、测试和文档撰写,优化后多线程读取性能暴涨3倍,还借助AI梳理十年前的旧代码,挖出3个隐藏多年的Bug,打破了Linus此前对AI的质疑。
新智元
推荐文章9
Anthropic靠Claude把产品提速3倍
本文是花叔对Anthropic工程师Claude提速复盘的深度拆解,公开了Anthropic用AI辅助做产品性能优化的完整方法,花叔还实战验证了这套方法,整理出可复用的「闪电.skill」工具开源放出。
花叔
推荐文章9
用Agent优化SGLang 性能大幅提升
本文是百度百舸与SGLang联合Meetup的分享整理,讲解如何让Agent完成从瓶颈定位、Kernel修改到端到端验证的全流程SGLang性能优化,覆盖多类模型场景,公布实测性能提升数据与百度百舸的通信优化效果。
GiantPandaLLM
推荐文章8
腾讯程序员:揭秘大模型输出确定性结果之道
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
腾讯技术工程