「MXFP8量化Kernel」共找到 239 篇相关文章
LM Studio宣布支持在Mac上跑Qwen3-Next 80B模型
LM Studio宣布支持基于MLX框架在Mac上运行阿里Qwen3-Next 80B模型。该模型虽总参数量达800亿，但每次推理仅激活30亿。第三方评测显示其4bit量化运行效果好，不过实现GGUF格式支持尚需时间。
TileLang深入详解-第二章-TileLang 核心编程抽象
文章深入解析TileLang核心编程抽象，介绍写kernel的方式，阐述TileLang三层抽象特点及适用场景，展示JIT工作流、接口和执行后端，还提及性能优化、基准测试、正确性校验，最后用GEMM示例对比三层抽象差异并给出使用建议。
ACL'25最佳论文解读 | 大模型也会‘弹簧回弹’？揭秘 LLM 对齐的脆弱根源
本文分享 ACL 2025 最佳论文，指出预训练大模型存在‘抗对齐’的 Elasticity 现象，即对齐微调只是暂时拉伸，后续微调会让其迅速弹回预训练分布。研究量化该概念，用‘压缩理论’刻画对齐并实验验证。
AI 基础知识从-1到0.1：带你走进机器学习的世界
文章沿着AI发展脉络，从Seq2Seq到GPT模型，深入介绍关键技术原理。以简明方式梳理AI基础概念，涵盖人工智能、机器学习等定义，还介绍了各类学习方法、特征工程及向量化等内容，最后提及模型应用流程和Quick BI助力企业分析。
Unsloth发布Qwen3-VL本地运行和微调指南，修复隐藏bug
Unsloth团队修复Qwen3-VL系列模型聊天模板语法问题，重新上传GGUF量化文件，使模型可本地稳定运行。介绍了不同规格模型硬件需求、表现，给出部署步骤、参数差异，还展示多模态能力测试，提供多种格式模型及微调工具。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
VLM 实现 10%的精度提高，13.1倍加速！纽约大学新算法让视觉语言模型更小、更快、更准确
纽约大学研究团队用QSVD新方法让视觉语言模型（VLM）效率飞跃，在普通GPU上实现13.1倍加速。它将Q、K、V矩阵捆绑处理，设计秩分配策略，引入量化方案，经多模型评估，展现出低硬件成本、高精度优势。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
一年拿下三轮融资！影目INMO正在鼻梁上“复刻”一个AI手机
影目INMO在一年拿下三轮融资，近5亿资金到位。其产品INMO GO3等表现出色，首发预订量可观。该公司专注轻量化一体式AI+AR眼镜，结合自研系统与智谱大模型，还拓展线下渠道，全球化布局也在推进。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA，它能高效传输多维数组数据。文中展示用TMA对2D数组操作，如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法，最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。