「层级并行解码」共找到 369 篇相关文章
帮大模型提速80%，华为拿出昇腾推理杀手锏FlashComm，三招搞定通算瓶颈
在大模型推理通算难题凸显的背景下，华为数学家祭出 FlashComm。它包含三项技术，分别在 AllReduce 通信、以存换传、多流并行方面优化，解决通信瓶颈，提升推理性能，未来还将围绕多方向创新。
你敢信？GPT-5的电脑操作水平只比人类低2%了
Agent S3刷新了计算机使用智能体（CUA）在「OSWorld」基准测试的记录，性能达69.9%，接近人类水平。它引入bBoN实现并行扩展，还精简框架、引入原生代码智能体，已开源并发布论文。
谷歌深夜放出 IMO 金牌模型，多项测试力压 Grok 4、OpenAI o3！网友评论两极分化
昨夜谷歌向 Google AI Ultra 订阅用户推 Deep Think 功能，Gemini 2.5 Deep Think 模型获 IMO 金牌。它是多智能体模型，通过并行思维输出答案，在多领域及测试中表现佳，但网友评价不一。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
不改模型也能提升推理性能？ICLR投稿提出测试时扩展新范式OTV
ICLR 2026投稿论文提出单token验证（OTV），是测试时扩展新机制，让模型能边推理边判断正误。它基于并行思考思路，借助轻量内部验证器分析推理过程，实验显示其性能优于主流方法。
复旦北大联合美团LongCat提出TDAR：用“粗思考，细求证”破解Block Diffusion的速度精度悖论
复旦大学、北京大学联合美团LongCat提出Block Diffusion推理模型Test-Time Scaling新框架TDAR，引入‘粗思考，细求证’范式与有界自适应置信度解码，打破速度与精度零和博弈，在多基准测试表现出色。
编程革命彻底爆发！刚刚，OpenAI最强智能体上线ChatGPT
OpenAI发布云端AI编程智能体Codex，由codex - 1加持，多任务并行，半小时可干完数天软件工程任务。它能完成多项编程任务，还与GitHub集成。已向部分ChatGPT用户开放，Codex CLI也有更新。
GitHub Trending 榜一的开源 Cowork 来了！4天4.5K星，首个多智能体工作流应用！
开源项目Eigent冲上GitHub Trending榜首，4天获4.5K+ Star。它是全球首个多智能体工作流桌面应用，完全开源、支持本地模型，有多种智能体工作流，具备本地优先、并行工作流等特性，提供三种使用模式。
谷歌突砍Gemini免费版炸锅，数据养模遭背刺？GPT-5.2突袭Gemini 3，Demis Hassabis：谷歌须占最强位
近日谷歌收紧Gemini API免费层级限制，引发开发者不满。同时，OpenAI计划提前发布GPT - 5.2竞争。谷歌DeepMind的Hassabis表示要与OpenAI竞争到底，对Gemini 3满意，还介绍了谷歌未来三个主打方向。
谷歌新发现：DeepSeek推理分裂出多重人格，左右脑互搏越来越聪明
谷歌研究表明，DeepSeek - R1等顶尖推理模型解题时，内部会自发“分裂”出不同性格虚拟人格，像在进行社交、辩论会，且越“吵”越聪明。团队借助SAE解码其脑内群聊，还发现‘哦！’能提升推理准确率。