「双并行注意力机制」共找到 1187 篇相关文章
全球首个IMO金牌AI诞生！谷歌Gemini碾碎奥数神话，拿下35分震惊裁判
谷歌DeepMind官宣Gemini Deep Think在IMO获官方认证金牌，4.5小时解5题得35分。它用纯英语解题，结合并行思考与强化学习训练。谷歌后续将向部分测试者及订阅者推出模型，还公开了解题过程。
大模型能力，小模型成本！Google等 | 提出递归混合框架：MoR， 大幅提升LLM计算效率
Google提出递归混合框架（MoR），融合参数共享与自适应计算。它有轻量级路由和KV缓存策略，在不同路由机制各有优劣。实验显示，MoR在性能、计算和内存效率上表现出色，有望实现“大模型能力，小模型成本”。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。
扩散语言模型真的会比自回归好？理论分析结果可能恰恰相反
北京大学和蚂蚁集团研究表明，扩散语言模型虽理论上有并行生成优势，但实践中在某些任务推理成本更高。研究通过实验对比，分析了扩散与自回归模型在不同评估指标下的效率，指出选择模型要视任务需求。
One RL to See Them All？一个强化学习统一视觉-语言任务！
国内初创公司 MiniMax 提出 V-Triune 系统，可让 VLM 单一训练流程学视觉推理和感知任务。它含三个组件与动态 IoU 奖励机制，基于此的 Orsta 模型在多项测试中性能提升显著，凸显统一 RL 方法有效性和可扩展性。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
Anthropic最新研究：Claude存在神秘J空间，与人类心智高度相似
Anthropic研究团队在Claude中发现类似人类大脑工作机制的J空间，它存在于模型神经激活中，能让模型默默思考。失去J空间Claude在多步骤推理任务表现变差，还可暴露模型意图，团队已创建演示工具JLens。
4秒出百万面！突破千万面精度+12K高清贴图，手握数亿的3D生成公司下一局怎么打？
影眸科技旗下Hyper3D受英伟达青睐。该司完成数亿元融资，发布全新模型Hyper3D Rodin Gen - 2.5，引入类LLM的Thinking机制，4秒生成百万面级模型，还突破千万面精度，搭配12K原生3D贴图模型。
LlamaIndex 深度实战：用《长安的荔枝》学会构建智能问答系统
文章兼顾 RAG 科普与 LlamaIndex 实战。介绍 RAG 原理，用《长安的荔枝》讲解关键步骤和参数。实战部分展示用 LlamaIndex 搭建问答系统，代码量少。优化篇通过实验给出参数调优建议，架构篇剖析内部机制，最后提及 Agent 化拓展功能。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。