搜索：计算加速 - AI Reading Hub

「计算加速」共找到 1221 篇相关文章

告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒

大模型参数规模大，推理部署难。华为诺亚提出Pangu Light框架，结合算法创新与国产昇腾平台，通过跨层注意力剪枝等技术，解决剪枝后模型失稳问题，实现高压缩率、推理加速与高精度。

大规模视频扩散模型采样效率低，应用受限。英伟达联合谢赛宁等提出TMD框架，将大型视频扩散模型蒸馏为少步生成器。实验显示，TMD能实现超70倍加速，质量损失小，用户也更偏好其生成的视频。

多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。

扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。

摩尔线程团队论文LiteGS被ECCV 2026接收，旨在加速3DGS训练。它从GPU底层光栅化、数据排列及致密化判断三层改进，进行系统与算法协同设计，开源后成果显著。

Ghost-Downloader-3是高中生用Python打造的跨平台多线程下载器，初衷是帮B站UP主整合资源。现具AI加速等功能，在GitHub获3.9K星，安装简单，未来还将添加磁力和BT下载。

上海交通大学EPIC Lab团队提出EEdit框架，入选ICCV 2025。它是首个加速匹配流模型图像编辑框架，能兼容多种引导方案，免训练，速度较原始工作流快2.4倍，支持多类型编辑任务。

特拉维夫大学团队开发新方法，给LLM推理任务装进度条，控制推理深度和速度。提出“思维进度向量”TPV预测推理位置，干预TPV可“超频”“降频”，模型已在GitHub开源。

随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。

LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。