「MXFP8量化Kernel」共找到 246 篇相关文章
开源模型首超Opus4.6！智谱GLM-5.1登场，14小时后CUDA专家被冲了
智谱开源模型GLM - 5.1带来重大突破，14小时完成CUDA Kernel优化，加速比大幅提升。它解锁与顶尖闭源模型Claude Opus 4.6全面对齐，在多测试中表现优异，展现长程任务能力，改写行业叙事逻辑。
ICML 2026 | 大模型为什么算不对加法？南大团队提出等本位和轨迹，揭示LLM算术错误的几何机制
南大团队研究LLM在多操作数加法中的内部表征结构，发现算术状态呈高度结构化几何流形。提出等本位和轨迹与噪声量化模型，解释模型算错加法原因，还设计推理时纠错方法。
Meta重返开源！30B本地Agent塞进24GB显存，LeCun火速力挺
Meta重返开源，推出开源模型Muse Glimmer，参数30B，经量化后一块24GB消费级显卡就能跑通，拥有完整Agent能力。Meta还预告Muse Spark 1.2开放权重版本将发布，扎克伯格称会恢复发布部分开放模型。
Unsloth让大模型跑在手机上！
Unsloth放出教程，可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化，Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失，还给出iOS和Android部署步骤及注意事项。
半量工具，双倍效能：ARPO革新大模型强化学习
大语言模型在多轮工具调用场景有挑战，传统强化学习算法有探索效率低和资源消耗大问题。本文提出ARPO，通过量化token熵分布变化设计自适应探索机制，降低工具调用成本且提升多轮推理性能。
真能戴出门的脑机接口来了？长得像普通毛线帽，戴上就能意念打字
本文报道Kernel前CEO跳槽EEG脑机接口初创公司Sabi的行业动态，介绍Sabi推出的毛线帽造型非侵入式脑机接口产品Sabi Cap，分析BCI领域不同技术路线的商业化前景，探讨消费级脑机接口的机遇与挑战。
从Demo到行业落地的Agents：技术、应用与评估
通用LLM Agent工业落地有短板，哈工大深圳与华为提出L1 - L5工业Agent能力成熟度框架，映射技术演进与产业场景，覆盖50+行业案例、300+评测基准，给出可量化‘爬级’路线。
告别碎片化日志：一套方案采集所有主流 AI 编程工具
在AI编程工具普及的当下，有效采集和分析AI代码生成数据成重要课题。该文介绍一套基于MCP架构的多AI工具代码采集方案，支持多种工具和操作系统，有轻量化、用户无感等特点，已和Aone合作。
142 TFLOPS 的差距：为什么在 Blackwell 上 FP4 MoE 算子工程至关重要
文章对三种主流MoE后端在Blackwell B200 GPU上做基准测试，发现SGLang与vLLM有142 TFLOPS差距，小batch时SGLang快1.84×。差异源于kernel融合、面向Blackwell的CUTLASS schedule及自适应grid sizing等优化。
混元3D世界模型1.0 lite版本发布，消费级显卡就能跑
腾讯混元3D世界生成模型HunyuanWorld 1.0发布即开源，可在消费级显卡运行，还能兼容传统CG管线。它分层实现3D生成，通过量化等技术降低显存开销，与同类模型相比优势明显。