「模型量化」共找到 7851 篇相关文章
0.016%参数撬动18%性能：关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术，传统PEFT方法需修改大量参数，新兴ReFT虽只需调整少量参数，但存在不足。本文提出CRFT，仅用0.016%参数量就提升性能，为轻量化推理增强开辟新路径。
与Gemini Diffusion共振！首个扩散式「发散思维链」来了
西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
Meta「分割一切」进入3D时代！图像分割结果直出3D，有遮挡也能复原
Meta MSL实验室发布三维重建模型SAM 3D，其家族的两个新模型能将2D图像转为3D重建模型，性能优异。同时，此前投稿ICLR 2026的SAM 3也亮相，可克服传统模型局限，在多项任务中刷新SOTA。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
阿里Qwen3一大波更新：代码生成、视频、图片、语音全都有
阿里Qwen3迎来一大波更新，涵盖多个模型。如Qwen3-Max在代码与智能体表现卓越；Qwen3-VL是强大视觉语言模型；Qwen3-Omni是全模态模型；还有图像编辑、同传、安全防护等模型及旅行规划师等应用。
微软这支神秘的华人AI团队加入腾讯混元，曝与裁员无关｜独家
WizardLM项目创建者徐灿发文称团队离开微软加入腾讯混元。混元此前发布多款AI模型，WizardLM也发布过混元模型。该团队专注高级大语言模型开发，曾成绩斐然，但也面临模型部署挑战。腾讯大力投入AI，网友对此看法不一。
独家｜前DeepSeek核心研究员魏浩然出任百度文心多模态算法负责人
9月3日消息，原DeepSeek核心研究员魏浩然带队转入百度，任文心大模型多模态算法负责人。此前他在多模态与端到端OCR底层重构有突出成绩，这是百度布局青年顶尖研发人才的又一动作。
80%代码由Claude合并，Anthropic内部人员点破Agent真相：「Close the Loop」
Anthropic团队研究产品经理Theo演讲指出，Claude已深入其工程流程，超80%代码由它合并。模型角色转变，能力提升，失败率下降。开发者应升级研发战术，如刷新评估基准、精简“脚手架”、闭环设计。