「量化推理」共找到 2194 篇相关文章
不换GPU，性能飙升2.8倍！英伟达用软件暴打摩尔定律
2026年1月8日，英伟达官网披露，基于Blackwell架构的推理软件栈升级，让混合专家模型（MoE）推理效率迎「阶跃式」突破，单GPU吞吐飙升2.8倍，显著降低推理成本。其通过软件针对性升级发挥硬件潜力，还进行多项优化。
大模型刷数学题竟有害？CMU评估20+模型指出训练陷阱
CMU团队评估20多个大模型，发现只有强化学习（RL）训练的模型能将数学推理技能广泛迁移到其他任务，监督微调（SFT）训练的模型迁移有限甚至无迁移。研究还探索差异原因，表明RL微调更具优势。
56倍加速生成式策略：西交大提出EfficientFlow，迈向高效具身智能
生成式模型在机器人和具身智能领域面临训练依赖大量数据、推理慢的问题。西安交通大学团队提出EfficientFlow，融合等变建模与高效流匹配，提升数据效率，压缩推理迭代步数，在多基准实现SOTA，推理提效显著。
边画边想！多模态Reasoning迎来巨大提升！
论文指出文本无法精准表达空间关系，现有视觉语言模型（LVLM）在空间推理上是短板。ViLaSR让模型直接画图推理，经三阶段训练，在五大空间推理测试中表现出色，还开源资源，有望带来机器认知升维。
DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜
DeepSeek提及针对国产芯片的FP8量化设计，引发对大模型量化策略关注。不久后英伟达发力低精度量化，将NVFP4策略拓展到预训练阶段，其方案能解决核心挑战，实验证明NVFP4在大规模训练中可行。
第一章：AI 技术前沿全景
文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。
挑战 1 比特！ETH Zürich 秦浩桐：如何把大模型「塞进」小设备？| IJCAI 2026
IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。
让思考更准更长！强化学习新算法FIPO来了
阿里通义实验室Qwen Pilot团队发布系列博客剖析大模型强化学习机制与局限，推出新算法FIPO。该算法引入Future - KL机制，解决‘推理长度停滞’问题，在多项测试表现优异，还介绍招聘信息。
DeepSeek|从零构建轻量级vLLM：Nano-vLLM，吞吐量逼近原版，代码仅需1200行
开源的vLLM能提升LLM推理速度和资源利用率。近日，DeepSeek AI俞星凯从零构建轻量级Nano - vLLM，代码仅1200行。它有离线推理等功能，基准测试显示吞吐量逼近原版。
Qwen3-Max-Thinking：会想能干，比强更强
正式推出旗舰推理模型 Qwen3 - Max - Thinking，其在多关键维度显著提升，性能媲美顶尖模型。引入自适应工具调用和测试时扩展技术，现已上线 Qwen Chat，API 也开放，还介绍了使用方法。