「量化方法」共找到 1698 篇相关文章
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
NIPS 2025 Spotlight | 港大提出TreeSynth方法，一句话生成百万规模数据集
港大团队提出TreeSynth方法，受决策树启发，将数据合成问题映射到其空间分割机制。它采用两阶段流程，能从零合成数据，还可优化现有数据集。实验显示其在多基准任务上性能提升显著，可扩展性佳。
EAAI | 香港理工大学王旭等：一种增强MFNN的多源气动数据重构方法
飞行器气动压力分布获取依赖风洞试验或数值模拟，多源数据差异为气动数据重构带来挑战。本研究提出增强型多保真神经网络，通过差分运算提升模型泛化精度，在跨声速压力分布重构中效果显著。
致敬Kimi K2：基于slime的全流程INT4量化感知RL训练
受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。
突破万次连续编辑极限！中科院提出首个理论保稳的知识保留方法
中科院信工所研究人员提出LyapLock，将连续编辑建模为受约束随机规划问题，整合排队论和李雅普诺夫优化。实验显示，它能突破万次连续编辑极限，编辑效果比主流方法提升11.89%，还可赋能现有模型。
Google 新论文离谱到家了，0延迟0成本通用，提升大模型准确率最简单的方法。
Google新论文提出简单提升大模型准确率的方法，即重复提示词，把完全一致的输入连续发2次。主流模型适用，经70项benchmark测试，0场景效果倒退，47个场景准确率提升，且几乎不增延迟、成本。
清华首提通用大模型滤波方法，实现零样本状态估计｜NeurIPS'25
清华大学李升波教授团队在NeurIPS 2025提出LLM - Filter通用滤波器，将状态估计融入大语言模型推理框架。它能解决传统方法泛化性差问题，在未见过系统中实现零样本状态估计，有望成基础模型。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。
AI画手总是六根手指？阿大/美团/上交首次系统量化扩散模型计数幻觉
阿德莱德大学、美团和上海交通大学团队首次系统研究扩散模型“计数幻觉”问题。构建CountHalluSet数据集套件量化该问题，揭示其与采样条件的关系，还提出JDM模型缓解计数幻觉。
航空学报｜西工大袁昊、寇家庆等：基于预解分析的低雷诺数翼型优化设计方法
本文将预解分析引入翼型外形优化，构建流动系统线性化模型，以最大预解增益表征流动稳定性。建立优化框架获Opt.1和Opt.2构型，优化后翼型流动稳定性提升、气动性能改善，方法有外推潜力。