「动作前缀并行预测」共找到 520 篇相关文章
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
Cursor 2.0 来了！自研模型 Composer1，更禅的界面，多代理并行，Browser调试更强大
Cursor 2.0 发布，有诸多升级。它有自研编码模型 Composer1，速度快且适合 Agent 模式；界面更清爽禅意；支持多代理并行，能提升编码效率；浏览器可嵌入编辑器，沙盒终端在 macOS 正式发布等。
银河通用LDA定义全域数据利用范式，跨本体世界动作大模型开启具身GPT-2时刻
当下具身智能赛道两大流派各有短板，银河通用推出跨本体「隐式世界 - 动作基础模型」LDA - 1B，走自研WAM路线，成果已开源。它打破数据割裂难题，解锁具身智能「GPT - 2时刻」，在多方面展现优势。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
告别「想完再做」卡顿！清华StreamingVLA让VLA边想边行动，提速2.4倍
视觉 - 语言 - 动作（VLA）模型“观测 - 生成 - 执行”串行模式致交互卡顿，清华与联想合作提出StreamingVLA框架，引入两项技术实现并行处理，在测试中显著提升效率和流畅度，为VLA模型部署提供新方案。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
1句话高质量生成游戏3D动作，北大新方法刷新动画制作SOTA
北京大学提出ReMoMask：基于检索增强生成的Text - to - Motion框架，集成三项关键创新。在标准基准测试上，相比RAG - T2M，在HumanML3D和KIT - ML上FID分数分别提升3.88%和10.97%。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
机器人“狂踹不倒”视频刷屏！太空舱遍布城市街巷，银河通用这几手秀麻了
银河通用发布全新通用动作追踪框架Any2Track，让机器人精确模仿人类动作，还能抗干扰。团队将动作捕捉学习解耦为两阶段，兼顾精准模仿与抗干扰。其银河太空舱让机器人融入生活，全栈自研技术推动具身智能落地。
高性能全闪并行文件系统的设计和实践
焱融科技 CTO 张文涛在 QCon 大会分享‘高性能全闪并行文件系统的设计和实践’，介绍了焱融全闪文件存储架构和 YRCloudFile 技术细节，分享其解决 AI 训练存储难题的方案。