算法论文8
NVIDIA等推出Fast - dLLM v2,吞吐量提升2.5倍
机器之心
AI 摘要
NVIDIA、港大、MIT 联合推出 Fast - dLLM v2,将 AR 模型适配为 Block Diffusion LLM,只需约 1B tokens 微调,端到端吞吐量最高提 2.5 倍,成本低且精度可比。
阅读原文 · 机器之心
NVIDIA港大MIT联合推出Fast-dLLM v2:端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限,Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM,用约 1B tokens 微调,端到端吞吐量最高提升 2.5 倍,精度相当。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
JustGRPO:让扩散语言模型回归极简
本文提出回归极简的方法 JustGRPO,在 RL 阶段让模型自回归生成,用标准 GRPO 训练,能超越各类针对 dLLM 设计的 RL 算法表现,提升推理表现同时保留并行解码能力。
机器之心
开源动态8
上交联合UCSD:Jacobi Forcing破LLM推理瓶颈
大语言模型推理速度是应用瓶颈,传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案,无需重构架构,将AR模型转为并行解码器,提速显著且质量损失小,核心优势多,技术路线全链路优化,实测表现优。
机器之心
算法论文9
苹果LensVLM:长上下文的放大镜
本文介绍苹果基础大模型团队与杜克大学联合提出的LensVLM方案,针对长上下文压缩易丢失关键信息的痛点,提出将长文本压缩为图像、模型按需展开细节阅读的新思路,相关研究已被NeurIPS 2026接收,公开了模型、代码与可体验Demo。
机器之心
算法论文8
Token压缩率飙升60% 大模型分词革新
当前大模型效率优化多聚焦降低单位Token计算存储开销,本文解读arXiv新预印论文,针对传统BPE分词的固有局限,提出CNF-MCE分词框架,可大幅提升Token压缩率,开辟大模型效率优化新路径。
InfoQ