搜索：FP8混合精度训练

「FP8混合精度训练」共找到 475 篇相关文章

只需一次指令微调，大模型变身全能专家天团，8B模型性能反超全微调基线 | ACL25 Oral

预训练大模型适应专业领域需高昂微调成本，稀疏混合专家架构虽能提升推理效率，但从头训练耗资源。浙大与Thomson Reuters团队提出SIMoE，单阶段微调就能升级大模型，还解决传统方法两大局限，在性能和效率上双突破。

开源大模型进入中国时间，Kimi K2风头正盛时，Qwen3迎来升级，235B总参数量仅为Kimi K2四分之一，基准测试性能却超它。Qwen官方不再用混合思维模式，新模型仅支持非思考模式，此次是小更新，大招在后头。

腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit，参数量仅0.3B，内存占用600MB。它基于产业级2Bit端侧量化方案，生成速度提升，还通过多种方法提升能力，未来将探索新技术缩小与全精度模型差距。

光掩模版是芯片制造的“微观底片”，其制造流程复杂，精度要求达纳米级。全球市场规模持续增长，亚太占比超60%。中国企业已在部分环节突破，但仍面临高端设备依赖、材料瓶颈和人才短缺挑战。未来技术融合与国产化生态建设将助力产业发展。

这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。