「并行解码」共找到 320 篇相关文章
DeepSeek点燃大模型效率之争，阶跃火速接棒：JetSpec让大模型解码速度最高提升近10倍
近期，DeepSeek发布DSpark，阶跃星辰发表JetSpec论文，二者聚焦大模型推理效率。DSpark关注验证效率，JetSpec从Draft生成本身入手。结果显示，二者都有加速效果，共同表明推理效率正成Agent落地关键变量。
Qwen最新3.7 Max预览版空降！两代超大杯并行迭代，林俊旸走了但还在加速
Arena公布Qwen3.7-Max-Preview和Qwen3.7-Plus-Preview成绩，文本和视觉领域均为国产第一。Qwen3及以后迭代提速，大版本间隔缩至2-3个月，反映阿里Qwen团队进入快速实验、高频交付阶段。
刚刚！Kimi Linear横空出世，全新注意力架构：1M长文本解码速度飙升6.3倍，KV缓存砍掉75%
月之暗面推出全新注意力架构Kimi Linear，有望成下一代Agent LLM基石技术。它解决了LLMs处理长序列任务的瓶颈，性能超传统机制，还开源了核心代码。Kimi Linear的KDA模块提升了表达和硬件效率，实验表现佳。
训练提速4.6倍！FP4+BF16双轨并行，NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限
NVIDIA、港大、MIT团队提出Sol - RL，采用「FP4先探索、BF16再训练」框架，将扩散模型训练收敛速度最高提至4.64x，在速度与对齐效果间给出工程可行解法。
AST | 西工大崔榕峰、张伟伟等：基于物理约束与双并行注意力UNet++的高保真度三维机翼流场重构研究
本文针对三维机翼流场重构难题，提出DPAtt - UNet++框架，融合几何隐式编码、多尺度注意力与物理规律约束。实验表明，其重构精度高，预测速度较CFD提升2 - 3个数量级，为飞行器气动分析提供新路径。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。
直播实时离线翻译
传统离线翻译模型有延迟问题，GitHub上NoLanguageLeftWaiting开源项目把Meta的NLLB模型改造成实时同传模型，能边听边译，支持200种语言互译，还在开发推测解码功能提升速度。
不改模型、不降质量，谷歌让Gemma 4快了3倍：本地跑大模型彻底变天
谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。
终于开源升级OmniGen2，统一多模态图像生成模型，真的惊艳。
OmniGen2是强大的开源统一多模态图像生成模型，针对文本和图像模态构建独立解码路径，运用未共享参数。新架构提升处理效率和质量，在图像编辑等任务表现出色，还有多技术特点。
刚刚，OpenAI最强编程智能体上线ChatGPT
OpenAI宣布在ChatGPT中引入Codex研究预览版。它是云端软件工程智能体，能并行处理多项编程任务。自今日起，部分用户可使用，后续将推付费选项。目前处于早期开发阶段，未来计划推更灵活工作流。