「FP4量化」共找到 1670 篇相关文章
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。
小白必读：到底什么是FP32、FP16、INT8？
文章介绍FP32、FP16、INT8等数字存储格式类型。指出它们是评估算力前提，不同格式在精度、范围、内存占用和计算速度上有差异，还提及多精度与混合精度计算，以及不同硬件对格式的支持情况。
人类打辩论不如GPT-4？！Nature子刊：900人实战演练，AI胜率64.4%，还更会说服人
瑞士洛桑联邦理工学院等机构研究人员让900名美国参与者与人类或GPT - 4就社会议题辩论。发现GPT - 4知晓对手信息时胜率64.4%，说服效果提升81.2%，低/中争议话题更易受其影响。
混元开源PhoneBuddy-4B与5篇系列论文：多项手机Agent真机评测超过GPT-5.4
腾讯混元Phone - use Agent团队发布PhoneBuddy - 4B及5篇系列论文。研究探讨如何训练真实可用的Phone - use Agent，采用Real + Mock方式，实验显示该方法提升效果显著，4B模型多项任务超GPT - 5.4。
MOE RL实战：统一FP8全流程训练
SGLang RL团队等联合完成工作，实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等，指出训练难点，分析KL Loss异常归因，验证其在MoE模型RL应用效果，还探究模型规模对训推不一致性的影响。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
Agent大革命！Claude 4连续自动编程7小时，刷新世界记录
今天凌晨Anthropic召开开发者大会，发布Claude 4，含Opus 4和Sonnet 4。Opus 4编程智能体连续工作7小时破纪录，Sonnet 4在SWE - bench表现超前沿模型。还新增功能，Claude Code开放，API也有新特性，Sonnet 4免费但有限制。
AI编程新王Claude 4，深夜震撼登基！连续编码7小时，开发者惊掉下巴
Anthropic发布全球最强编程模型Claude 4，含Opus 4和Sonnet 4。Opus 4是顶尖编码模型，Sonnet 4是Sonnet 3.7的重大升级。还发布系列产品，Claude 4定价与此前一致，部分用户可体验。
追平GPT-4o，数学基测96.3%高分，Hermes4 来了
Nous Research推出新一代大模型Hermes 4系列，其有混合推理和长度控制机制，还能用DataForge“造”数据，经Atropos质检。它在数学等领域表现佳，追平GPT - 4o，是开源AI对巨头的挑战。
OpenAI最强对手出现！马斯克发布Grok-4，性能碾压Claude 4两倍！
半小时前马斯克发布Grok - 4，虽Grok3.5跳票、直播迟到被吐槽，但它训练量和算力投入大。在多项基准测试中碾压Claude Opus 4，还具备原生工具调用等能力，xAI目标是让其更快更智能。