「健康记录」共找到 213 篇相关文章
开源动态8
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代,包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
GiantPandaLLM
开源动态7
上新:Cache-DIT 支持LTX-2模型
作者和DefTruth在Cache-DIT上支持了LTX-2模型,记录适配关键点,包括模型侧、框架侧适配。介绍LTX-2特点,如支持T2V/I2V、输出带音频,还说明Cache-DIT加载区分T2V/I2V方法及cache侧修改内容,最后给出使用示例。
GiantPandaLLM
新闻资讯7
llya证词太狗血了!奥特曼坏,Mira茶,OpenAI差点跟Anthropic合并
最新披露的llya 52页证词,记录了当年奥特曼被“宫斗”的来龙去脉。奥特曼回应个人持股情况,称因热爱但也有点后悔。llya证词显示他和Mira曾密谋开除奥特曼,背后是OpenAI在营利和非营利间的摇摆,而OpenAI目标指向IPO。
量子位