推荐文章7
TileLang核心编程抽象深入解析
GiantPandaLLM
AI 摘要
文章指出写kernel有多种方式,TileLang是折中的工具,提供三层编程抽象。介绍其JIT工作流、不同执行后端特点,还有性能优化和基准测试方法,通过GEMM示例对比三层抽象,给出不同情境下使用建议。
阅读原文 · GiantPandaLLM
TileLang深入详解-第二章-TileLang 核心编程抽象
文章深入解析TileLang核心编程抽象,介绍写kernel的方式,阐述TileLang三层抽象特点及适用场景,展示JIT工作流、接口和执行后端,还提及性能优化、基准测试、正确性校验,最后用GEMM示例对比三层抽象差异并给出使用建议。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章8
腾讯程序员:揭秘大模型输出确定性结果之道
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
腾讯技术工程
开源动态8
面壁智能开源ForgeStencil,1周优化百款工业软件
中国正从「制造大国」迈向「智造强国」,国产工业软件面临性能瓶颈。面壁智能联合OpenBMB开源全球首个Stencil优化AI系统ForgeStencil,1周自动优化100+软件,全程0人干预,提升研发效率,切中制造业升级诉求。
新智元
产品应用8
快手:Doris 让 AB 场景提速 145 倍
快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%,刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因,以及在存储、计算、调度、稳定性等方面的优化,对构建 AB 实验平台有参考价值。
InfoQ
产品应用7
OpenAI:Codex 的 Goals 开启新工作模式
文章介绍 Codex 中的 Goals,它是持久目标,能让线程跨多轮对话朝明确结果推进。阐述了 Goals 与普通 prompts 的区别、编写方法、活跃后的变化、设计方式及适用场景等,还通过案例展示其在研究任务中的应用。
GiantPandaLLM