「缓存加速」共找到 698 篇相关文章
DeepSeek V4永久降价！缓存命中再打1折，实测编程成本骤降83%
DeepSeek两天连续两次降价，输入输出2.5折，命中缓存输入折上再1折且无时限。实测编程成本骤降83%，此前31.73元，打折后只需5.34元。其曾引发价格战，此次对海外用户冲击更大。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
3.9K star 惊艳！！媲美IDM，跨平台，AI加速，这届高中生牛逼了！
Ghost-Downloader-3是高中生用Python打造的跨平台多线程下载器，初衷是帮B站UP主整合资源。现具AI加速等功能，在GitHub获3.9K星，安装简单，未来还将添加磁力和BT下载。
英伟达港大联手革新视觉注意力机制！GSPN高分辨率生成加速超84倍
香港大学与英伟达联合推出广义空间传播网络（GSPN）。它采用二维线性传播与“稳定性 - 上下文条件”，将计算量降低，保留图像空间连贯性。在多视觉任务刷新性能纪录，如高分辨率生成加速超84倍。
ICCV 2025｜降低扩散模型中的时空冗余，上交大EEdit实现免训练图像编辑加速
上海交通大学EPIC Lab团队提出EEdit框架，入选ICCV 2025。它是首个加速匹配流模型图像编辑框架，能兼容多种引导方案，免训练，速度较原始工作流快2.4倍，支持多类型编辑任务。
DPad: 扩散大语言模型的中庸之道，杜克大学陈怡然团队免训推理加速61倍
扩散大语言模型（dLLMs）有全局规划能力，但存在计算冗余。杜克大学陈怡然团队揭示其“草稿纸机制”，提出免训练方法DPad，结合现有技术，能在几乎无损精度下实现高达61.4倍推理加速。
CVPR 2026 | 从视觉Token内在变化量出发，实现VLM无损加速1.87倍
随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。
清华系DeepSeek时刻来了，硅谷沸腾！单卡200倍加速，视频进入秒级时代
清华大学TSAIL实验室与生数科技开源视频生成加速框架TurboDiffusion，引发全球AI社区热议。它能在几乎不影响生成质量的前提下，让视频生成速度飙升100 - 200倍，将AI视频带入实时生成时代。
加速近5倍！北大与字节团队提出BranchGRPO，用「树形分叉 + 剪枝」重塑扩散模型对齐
北京大学与字节团队提出 BranchGRPO 新型树形强化学习方法，通过在扩散反演中引入分叉与剪枝，解决扩散/流匹配模型人类偏好对齐难题。该方法在图像与视频生成任务中表现优异，迭代时间最高近 5 倍加速。
腾讯发布大模型思考早停算法SpecExit，效果无损，端到端加速2.5倍！
腾讯为破解大模型长思维链效率难题，提出思考早停算法SpecExit，将思考早停与投机采样融合，在不影响准确性前提下，在vLLM上实现端到端加速2.5倍，还能缩短思维链长度。