「FP4 Indexer」共找到 1524 篇相关文章
DeepSeek悄悄更新：Mega MoE、FP4 Indexer来了
昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。
AMD新论文颠覆认知：FP4训练不稳定，原因不是随机性不足
大模型训练成本高，降低训练精度可降成本。AMD联合宾州州立大学论文颠覆认知，揭示FP4训练不稳定源于结构性微缩放误差，非随机性不足，还在原生FP4硬件完成大模型预训练。
训练提速4.6倍！FP4+BF16双轨并行，NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限
NVIDIA、港大、MIT团队提出Sol - RL，采用「FP4先探索、BF16再训练」框架，将扩散模型训练收敛速度最高提至4.64x，在速度与对齐效果间给出工程可行解法。
DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜
DeepSeek提及针对国产芯片的FP8量化设计，引发对大模型量化策略关注。不久后英伟达发力低精度量化，将NVFP4策略拓展到预训练阶段，其方案能解决核心挑战，实验证明NVFP4在大规模训练中可行。
LightX2V fp4 quant kernel代码笔记
这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记，解释接口和约束、kernel 关键路径等问题，还介绍 NVFP4 和 MX-Formats 量化原理、代码实现，以及 LightX2V 项目中的实际使用。
智谱开源GLM-4.5工具调用超越Claude Opus 4.1，成本仅1.4%
开源模型GLM-4.5在伯克利工具使用榜单上超越Claude Opus 4.1，运行相同任务成本仅为1.4%。它采用MoE架构，在多场景表现卓越，推理速度快，成本低，还接入多款主流编程工具。
GLM-4.6 vs Claude 4.5：当AI编程模型能力趋同，会用比选什么更重要
文章对比GLM - 4.6和Claude 4.5在AI编程中的表现。用两套提示词测试，发现二者能力接近，GLM - 4.6性价比高，还给出Claude Code + GLM - 4.6的组合使用方法，建议聚焦做产品而非纠结工具。
4比0横扫Grok 4，o3强势夺冠，首届大模型对抗赛结果出炉
备受AI圈关注的首届谷歌Kaggle AI Chess大赛落幕。o3以4 - 0横扫Grok 4夺冠，Gemini 2.5 Pro 3.5 - 0.5击败o4 - mini获季军。此前Grok 4被视为夺冠热门，决赛却频频失误。
梁文锋、马斯克同时开火！DeepSeek V4 Pro，Grok 4.6 发布
刚刚，DeepSeek悄悄上线DeepSeek V4 Pro正式版，马斯克高调推出Grok 4.6，两者性能直逼顶级闭源甚至有超越。每百万输出Token，Grok 4.6和DeepSeek价格优势明显。两者在多项评测中表现出色，且后续还有大招。
DeepSeek-V4-Flash正式版发布并开源，全面超越V4-Pro预览版
DeepSeek-V4-Flash正式版发布并开源，这一304B轻量级模型经后训练，性能远超V4-Pro预览版，与Claude Opus-4.8接近。模型权重开源后上Huggingface趋势榜第二，性价比高，实测表现佳。