「投机解码」共找到 111 篇相关文章
其实，扩散语言模型在最终解码之前很久，就已确定最终答案
随着扩散语言模型（DLM）发展，它成自回归（AR）模型有力替代。但实际推理慢于 AR 模型。研究者发现早期答案收敛现象，提出 Prophet 策略，实验显示其能在保持高质量生成时显著加速推理。
HF日趋榜一！真端到端模型AutoDeco终结手动调参解码
大语言模型手动调参解码繁琐，腾讯AI Lab王琰团队联合港中大（深圳）唐晓莹教授团队推出AutoDeco架构，通过创新训练策略让模型动态预测解码参数，在多模型实验中表现出色且已开源。
AI时代的真相：信息免费，认知收费
文章指出AI时代信息不再稀缺，获取成本趋近于零，差距源于脑中的“解码与决策系统”，并将该系统拆解为解码、决策、执行三层，分析每层造成差距的原因。
解码加速15倍！EdgeRazor助推大模型在PC/移动端“狂飙”
大语言模型参数膨胀，端侧部署难，量化成主流轻量化方案。开源工具库EdgeRazor由南京大学和微软联合推出，采用MPQAD打破极低比特大语言模型“能力塌陷”，在性能、效率、易用性等方面表现出色，打通AI全生态链路。
辟谣丨谷爱凌并未加入风投机构 Benchmark，原图为 AI 捏造
2月13日，自媒体传播“谷爱凌加入风投机构Benchmark”，实则是假新闻，配图为AI捏造。背后是地缘政治黑色幽默，谷爱凌和Benchmark合伙人因“中国元素”遭美国强硬派舆论围攻。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
Meta 开源 Brain2Qwerty v2：非侵入式脑机接口语句解码准确率达到 61%
Meta 近日开源非侵入式脑机接口系统 Brain2Qwerty v2，能将人脑想法解码为完整语句，平均单词识别准确率达 61%，远超其他非侵入式方案。其采用三阶段深度学习模型，代码和训练数据已公开。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
告别「盲目自信」，CCD：扩散语言模型推理新SOTA
华为小艺香港团队等研究人员提出上下文一致性解码算法（CCD）。它解决传统DLM推理“短视”和采样预算固化问题，在开源DLMs上实现3.48倍加速和3.9%性能提升，适配多种解码设定。
1000+页PDF解析速度暴涨3倍，MinerU模式不香了
百度PaddleOCR推出HPD - Parsing小模型，文档解析速度大幅提升，是上一代最快模型的1.62倍、自身原解码方式的3.06倍。它采用层级并行解码架构，有两层并行设计，效果出色且兼容性好，还分享了优质训练方法和优化思路。