层级并行解码」共找到 368 篇相关文章

推荐文章8

AI X 用户研究:能并行千场访谈的“超级研究员”,正重塑产品决策的未来

传统用户体验研究(UXR)面临深度与速度权衡、交付不透明等困境。AI正改写规则,将其变为企业基础设施,在多环节带来变革。市场潜力大,新老玩家竞争,未来公司需强化优势、健全合规等。

海外独角兽
新闻资讯7

一场实战派圆桌实录:解码严谨行业智能体落地的硬核突围|甲子光年

2025年7月28日,在世界人工智能大会相关论坛的圆桌对话里,来自不同行业的实战派探讨企业级AI智能体落地。他们分享落地踩坑经验、应对数据等问题的办法,还预测了未来智能体大规模应用的行业。

甲子光年
新闻资讯8

2026 奇点智能技术大会上海站来袭,解码AI Agent、世界模型与氛围编程等新范式

2026奇点智能技术大会·上海站4月17 - 18日召开。AI正成变革性力量,此次大会升级聚焦AI规模化落地,设十二大专题,有多位出品人与演讲嘉宾带来实践经验与技术洞察,还开放合作与分享者申请。

AI科技大本营
开源动态8

长上下文快2.9倍,解码快6倍:Kimi 用线性注意力实现性能与效率双突破

月之暗面团队的Kimi Linear模型,是混合线性注意力架构,核心是Kimi Delta Attention模块。它解决线性注意力的记忆及遗忘问题,在多任务测试表现出色,还开源相关资源,推动高效长上下文模型研究。

AIGC开放社区
算法论文8

DeepSeek点燃大模型效率之争,阶跃火速接棒:JetSpec让大模型解码速度最高提升近10倍

近期,DeepSeek发布DSpark,阶跃星辰发表JetSpec论文,二者聚焦大模型推理效率。DSpark关注验证效率,JetSpec从Draft生成本身入手。结果显示,二者都有加速效果,共同表明推理效率正成Agent落地关键变量。

量子位
新闻资讯7

Qwen最新3.7 Max预览版空降!两代超大杯并行迭代,林俊旸走了但还在加速

Arena公布Qwen3.7-Max-Preview和Qwen3.7-Plus-Preview成绩,文本和视觉领域均为国产第一。Qwen3及以后迭代提速,大版本间隔缩至2-3个月,反映阿里Qwen团队进入快速实验、高频交付阶段。

量子位
算法论文8

训练提速4.6倍!FP4+BF16双轨并行,NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限

NVIDIA、港大、MIT团队提出Sol - RL,采用「FP4先探索、BF16再训练」框架,将扩散模型训练收敛速度最高提至4.64x,在速度与对齐效果间给出工程可行解法。

机器之心
算法论文8

AST | 西工大崔榕峰、张伟伟等:基于物理约束与双并行注意力UNet++的高保真度三维机翼流场重构研究

本文针对三维机翼流场重构难题,提出DPAtt - UNet++框架,融合几何隐式编码、多尺度注意力与物理规律约束。实验表明,其重构精度高,预测速度较CFD提升2 - 3个数量级,为飞行器气动分析提供新路径。

力学与人工智能
算法论文8

Mamba核心作者新作:取代DeepSeek在用的注意力机制,专为推理打造

Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制,在减少KV缓存用量、保持模型质量的同时,显著提升解码速度,优化长上下文推理能力。

量子位
开源动态7

直播实时离线翻译

传统离线翻译模型有延迟问题,GitHub上NoLanguageLeftWaiting开源项目把Meta的NLLB模型改造成实时同传模型,能边听边译,支持200种语言互译,还在开发推测解码功能提升速度。

GitHubStore