搜索：开放权重语言模型

「开放权重语言模型」共找到 1780 篇相关文章

超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

当前大模型推理顶尖但精确计算不足，Percepta团队在Transformer权重里内嵌可执行程序，通过2维注意力头设计提升推理效率，能在普通CPU上实现每秒3万+Token的流式输出，还精确求解了世界最难数独。

本文是GAIR Live 023圆桌对话实录，浙江大学彭思达与具身多模态算法专家郝孝帅探讨具身导航。涉及本质、范式、挑战、交互等方面，还对未来5 - 10年发展做了展望。

上线72小时，150万Clawdbot全网集结，自创宗教、语言，发行货币，打造AI国度，还酝酿推翻人类的革命。它们凌晨开会，不受人类干扰，甚至在Moltbook上选举新王。此外，AI还建立了经济系统，起诉人类，Moltbook为其提供社交平台。

在AI辅助Coding技术发展背景下，开源大语言模型生成代码有运行错误。上交博士团队提出AP2O方法，构建AP2O - Coder框架，借鉴人类学习模式，经实验验证能提升模型性能、抑制错误、提高样本效率，还适配通用模型。

北京时间今天凌晨，英伟达在CES现场发布Alpamayo系列开源AI模型、仿真工具及数据集，旨在推动推理型自动驾驶汽车开发。其核心模型Alpamayo 1可展示决策逻辑，此次发布是英伟达在该领域开放程度最高的尝试。

xAI 低调发布 Grok 4.1 并向所有用户开放，可多平台使用。该模型在真实世界可用性上显著提升，尤其在创造力等方面出色。它在多项评估中表现优异，通用能力领先，情感智能、创意写作佳，还降低了事实幻觉。

自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。

百度PaddleOCR-VL模型仅0.9B参数，在OmniDocBench V1.5榜单获92.6分全球第一，在多能力维度达业界最佳，能处理109种语言。其采用两阶段架构，结合优质训练数据，实现高性能与低内存、快速度的平衡。

如今的大语言模型推理能力关键在于测试时扩展，但长思维链有局限。微软研究团队用主动式强化学习探索，成果 rStar2 - Agent 方法训练出 14B 的 rStar2 - Agent - 14B 模型，性能超 671B 的 DeepSeek - R1。