产品应用7
PDL 助力 SGLang Kimi K3 内核优化
GiantPandaLLM
AI 摘要
BBuf:PDL 用于 SGLang Kimi K3 可缩短相邻 kernel 空隙。计算 kernel 预取数据,通信 kernel 让后继执行 prolog。但不能消除固定成本,实现要留意 trigger 与 load 重排,性能以 e2e 指标为主。
阅读原文 · GiantPandaLLM
PDL 在 SGLang Kimi K3 中的应用
文章介绍 PDL 在 SGLang Kimi K3 中的应用,K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题,阐述计算链和通信链上的应用,还提及性能数据和实现问题。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用9
实测阶跃Step 5 Preview工程能力
本文作者池建强参与阶跃星辰新一代旗舰大模型Step 5 Preview小范围内测,设置带两层bug和隐藏需求的编码工程题,与Qwen 3.8 Max、Kimi K3对比测试,分享实际项目使用体验,给出客观评测。
MacTalk
产品应用8
牛芯推出自研PCIe 6.0 PHY IP
AI大模型发展推动算力对互联带宽需求提升,牛芯半导体完成自研PCIe 6.0 PHY IP研发,构建了覆盖PCIe 3.0到6.0的完整高速互联IP产品矩阵,为国产高端芯片提供自主可控的超高速互联方案,目前已开放客户技术评估。
芯师爷
产品应用9
不生成文字的Jev模型为啥这么火?
本文深度解析TypeSafe AI新发布的Jev模型,该模型不生成文本,专注提供高速结构化概率判断,分析了其架构、训练、适用场景,探讨了对AI行业格局的影响,给出开发者实用判断标准。
AI Reading Hub
产品应用8
启邦泽益:推理算力性价比突围
本文整理自启邦泽益联席CEO马冠华在2026芯算力创新峰会上的演讲,针对大模型推理爆发、算力成本高企的行业痛点,介绍启邦泽益从芯片到集群的全栈高性价比推理算力方案。
芯师爷