「大模型推理系统」共找到 9080 篇相关文章
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
谷歌最新发表的Science论文，颠覆了人类对ASI的想象
谷歌等机构研究者在《科学》发文，提出真正智能爆炸已发生，是多元、社会性且与人类深度缠绕。推理模型内部涌现‘思想社会’，当下人机协作进入‘半人马时代’，还探讨了AI扩展、对齐及治理问题。
烧掉724亿，纳德拉挥刀重组Copilot
砸724亿美金后，微软用大重组承认Copilot「走弯路」。此前Copilot用户体验割裂，用户向竞品流失。纳德拉开出药方，统一管理，老将退场。苏莱曼转战自研大模型，微软欲让Copilot成一体化系统。
并行扩散架构突破极限，实现5分钟AI视频生成，「叫板」OpenAI与谷歌？
近日，CraftStory 推出 Model 2.0 视频生成系统，凭借并行扩散架构破解视频时长难题，可生成长达五分钟视频。其由 OpenCV 创建者 Victor Erukhimov 创立，此次突破或为企业带来商业价值，还计划开发新模型。
Meta为他豪掷2亿美元，上交校友庞若鸣，晒出在苹果的最新论文
苹果基础模型团队负责人庞若鸣即将加入Meta，Meta为其开出2亿美金天价。7月9日庞若鸣宣传在苹果参与的研究《AXLearn: Modular Large Model Training on Heterogeneous Infrastructure》，介绍了AXLearn系统优势、架构、实验评估等。
中美 NeoLab 对话：模型和 Agent 如何实现「持续学习」？
在新加坡 AGI Playground 2026 舞台上，AMI Labs 林敏和 Mind Lab Andrew Chen 深度对谈，探讨 Agent 如何将经验转化为能力、持续学习。两人对持续学习给出不同答案，还讨论记忆、学习等基础问题及解决办法。
你的电子老婆开源了！登顶GitHub热榜
GitHub热榜项目AIRI是超火虚拟主播Neuro - sama的开源版，可自托管，7×24小时在线。它能实时语音、陪玩游戏等，支持多种大模型API，还介绍了不同系统搭建该项目的方法。
全新合成框架SOTA：强化学习当引擎，任务合成当燃料，蚂蚁港大联合出品
蚂蚁通用人工智能中心自然语言组联合香港大学自然语言组推出PromptCoT 2.0，押注任务合成。它让30B - A3B模型在数学代码推理任务达SOTA，全面升级效果、数据和方法，还将考虑多方向发展。
龙虾让位！硅谷顶流AI「爱马仕」一夜闯进微信，冲上全球第一
硅谷新宠Hermes Agent爆火，GitHub揽6.6万星，原生接入微信引开发者关注。其署名的首篇‘顶会级’论文提出Autoreason推理方法，指出传统‘自我优化’弊端，展示出小模型逆袭等优势。
10个面向前端开发者的MCP服务器
MCP是Anthropic推出的开放标准，让大模型与外部系统交互。本文介绍10个面向前端开发者的MCP服务器，如Canva、Dart等，还提及实验性的Angular MCP服务器，阐述各服务器功能及对开发者的帮助。