「nvfp4_gemv」共找到 1491 篇相关文章
GPU-MODE Leaderboards之nvfp4_gemv代码阅读
文章围绕GPU-MODE的nvfp4_gemv竞赛rank1代码展开，先介绍问题及官方baseline，后详细解读rank1代码，含数据加载、线程模型等，还剖析核心计算函数，最后总结代码在缓存控制、数据格式等方面的调优亮点。
英伟达祭出NVFP4核弹：大模型训练根本性转变，GB300效率狂飙7倍
英伟达推出新格式NVFP4，能以4 - Bit速度与效率实现16 - Bit生产件级训练精度，是LLM开发重大飞跃。虽处于研究阶段，但正与多组织合作。还介绍其方法、优势，实验也证明它在大规模训练的有效性。
智谱开源GLM-4.5工具调用超越Claude Opus 4.1，成本仅1.4%
开源模型GLM-4.5在伯克利工具使用榜单上超越Claude Opus 4.1，运行相同任务成本仅为1.4%。它采用MoE架构，在多场景表现卓越，推理速度快，成本低，还接入多款主流编程工具。
推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型，使推理成本降75%，内存占用为BF16模型四分之一，生成token速度提4倍，还能降低硬件资源需求。不过MXFP4也有缺陷，英伟达推出NVFP4提升质量。
GLM-4.6 vs Claude 4.5：当AI编程模型能力趋同，会用比选什么更重要
文章对比GLM - 4.6和Claude 4.5在AI编程中的表现。用两套提示词测试，发现二者能力接近，GLM - 4.6性价比高，还给出Claude Code + GLM - 4.6的组合使用方法，建议聚焦做产品而非纠结工具。
LightX2V fp4 quant kernel代码笔记
这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记，解释接口和约束、kernel 关键路径等问题，还介绍 NVFP4 和 MX-Formats 量化原理、代码实现，以及 LightX2V 项目中的实际使用。
4比0横扫Grok 4，o3强势夺冠，首届大模型对抗赛结果出炉
备受AI圈关注的首届谷歌Kaggle AI Chess大赛落幕。o3以4 - 0横扫Grok 4夺冠，Gemini 2.5 Pro 3.5 - 0.5击败o4 - mini获季军。此前Grok 4被视为夺冠热门，决赛却频频失误。
DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜
DeepSeek提及针对国产芯片的FP8量化设计，引发对大模型量化策略关注。不久后英伟达发力低精度量化，将NVFP4策略拓展到预训练阶段，其方案能解决核心挑战，实验证明NVFP4在大规模训练中可行。
梁文锋、马斯克同时开火！DeepSeek V4 Pro，Grok 4.6 发布
刚刚，DeepSeek悄悄上线DeepSeek V4 Pro正式版，马斯克高调推出Grok 4.6，两者性能直逼顶级闭源甚至有超越。每百万输出Token，Grok 4.6和DeepSeek价格优势明显。两者在多项评测中表现出色，且后续还有大招。
DeepSeek-V4-Flash正式版发布并开源，全面超越V4-Pro预览版
DeepSeek-V4-Flash正式版发布并开源，这一304B轻量级模型经后训练，性能远超V4-Pro预览版，与Claude Opus-4.8接近。模型权重开源后上Huggingface趋势榜第二，性价比高，实测表现佳。