「并行加速」共找到 821 篇相关文章
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
CVPR 2026 | 20步也能稳住画质，这个扩散加速方法不一样
扩散模型推理效率是落地应用的核心制约因素，阿里安全 AGI 实验室 - 御风大模型团队联合浙江大学提出全新扩散加速方法 TC - Padé，在低步数设置下能兼顾生成质量与推理效率，已被 CVPR 2026 录用。
吴恩达：AI编程加速开发也埋下大坑，软件测试空前重要
吴恩达认为AI编程虽加速开发，但Agentic编码系统不可靠，会引入漏洞、删除代码等。他给出核心解法，利用Agentic测试，优先测后端和底层架构，还明确测试优先级，前端低、后端高。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。
Megatron 1F1B流水线并行中的负载不均衡问题研究
文章分析Megatron 1F1B流水线并行中负载不均衡问题。通过实验发现通信时间‘一短一长’，原因是最后一个Stage计算慢致不同步，额外计算引发通信延迟，还梳理了流水线各阶段执行过程。
并行扩散架构突破极限，实现5分钟AI视频生成，「叫板」OpenAI与谷歌？
近日，CraftStory 推出 Model 2.0 视频生成系统，凭借并行扩散架构破解视频时长难题，可生成长达五分钟视频。其由 OpenCV 创建者 Victor Erukhimov 创立，此次突破或为企业带来商业价值，还计划开发新模型。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
奥特曼马斯克豪言：我们已进入奇点！AGI加速窗口已至
新智元报道，奥特曼和马斯克都认为奇点已至，当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧，如人类能否保持理智、安全对齐进展不明等。
五倍推理加速，激发自回归潜能，苹果新工作让LLM预测未来
近年来自回归训练方法成语言模型主流范式，但推理阶段计算开销大。苹果研究人员开发框架，让预训练自回归大模型多 token 预测，代码和数学任务推理加速达 5.35 倍，一般任务约 2.5 倍。
告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒
大模型参数规模大，推理部署难。华为诺亚提出Pangu Light框架，结合算法创新与国产昇腾平台，通过跨层注意力剪枝等技术，解决剪枝后模型失稳问题，实现高压缩率、推理加速与高精度。