开源动态8
蚂蚁dInfer框架让扩散模型推理速度飙10倍
AIGC开放社区
AI 摘要
蚂蚁开源dInfer框架,让扩散模型推理效率超自回归模型。它提出层级解码、信用解码等策略,解决推理难题。实验表明,在相似性能下,其速度比Fast - dLLM快超10倍,比vLLM快3倍以上。
阅读原文 · AIGC开放社区
蚂蚁dInfer框架,让扩散大语言模型推理速度再飙10倍,相同模型性能下超越自回归模型
蚂蚁开源dInfer框架,联合名校发论文阐述实现细节。它解决扩散模型推理难题,提出创新算法和系统优化策略,实验显示其推理速度远超Fast - dLLM和自回归模型标杆vLLM,代码已开源。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态8
爆火REA:AI能逆向还原任何软件
本文报道GitHub上星标超12.4万的爆火开源项目REA,该项目可借助AI在无源代码的情况下分析还原软件功能,整合传统逆向工具与AI编程助手,引发软件行业关于技术壁垒与商业模式的热议。
DeepTech深科技
开源动态8
REA一周涨11万星 可逆向复刻软件
本文介绍爆火的开源AI逆向工具REA,不到一周GitHub涨117.5k星,可基于Agent逆向复刻各类软件,讲解其原理、工作逻辑与功能,讨论其对SaaS生态的冲击。
开源AI项目落地
推荐文章8
AI逆向一切,软件都将被迫开源
本文从开发者用AI逆向重写Adobe全家桶开源的热点事件切入,介绍AI大幅降低逆向工程成本的行业新趋势,分析其对软件行业商业模式的冲击,探讨AI时代产品的护城河问题。
数字生命卡兹克
开源动态9
清华开源VeriLoop E2 推进黑洞信息悖论研究
针对大模型长链推理、科研任务中无法自我验证结果可靠性的结构性缺口,清华团队推出开源项目VeriLoop E2,拆分模型探索权与外部证据提交权,在多场景完成验证,推进可验证智能发展。
量子位