「推理速度」共找到 2515 篇相关文章
在WAIC耳朵听出茧子的「智能体」，是时候系统学一下了
今年世界人工智能大会上，智能体成主角，AI厂商纷纷布局。文章指出人们对AI大模型期望转变，介绍智能体底层逻辑，涵盖工具使用、推理模型、ReAct框架等，还对比先前尝试，探讨智能体能力层次与未来发展。
万字硬核解读SAM 3：不止分割一切，它开始理解世界了
Meta的SAM 3能理解语义，实现可提示概念分割。它支持开放词汇、全实例分割等，架构有创新，数据引擎高效。评估显示其性能优异，与MLLM结合成SAM 3 Agent后推理分割能力强，但在专业领域和复杂场景有局限。
顶模 Fable 5.1发布，到底强了多少？
昨晚，Anthropic发布Fable 5.1和Mythos 5.1，这代沿用Fable 5参数，性能提升聚焦长任务，还降低缓存读取价。它在游戏、视频等多个领域表现出色，与同类模型对比进步明显，虽价格贵，但能力、速度有提升。
当前的上下文方案，本质是暴力破解！DeepMind 创始人：忽强忽弱的 AI，才是真正的灾难，突破在记忆系统
在播客《20VC》中，谷歌 DeepMind 创始人德米斯·哈萨比斯与主持人探讨 AI 未来。他认为 AGI 五年内大概率实现，规模和速度超工业革命；算力是瓶颈，软件记忆系统等突破也重要；还谈及开源、监管、能源等问题。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
腾讯混元开源 4 个小尺寸模型，主打 Agent 和长文
8月4日，腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行，适用于低功耗场景。模型具备推理快、性价比高特点，亮点是Agent和长文能力，已在腾讯多业务应用。
图解Vllm V1系列5：调度器策略（Scheduler）
本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。
万字实录：VLA 范式，具身智能的曙光与迷雾丨GAIR Live
2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。
只用国产GPU训练的大模型性能飙升100%！国内唯一，更懂你
科大讯飞发布全国产算力训练的讯飞星火X1.5，推理效率暴涨100%，综合性能跻身全球顶级。还首发非自回归语音大模型架构，效果提升、成本降低。此外，展示多领域应用成果，发布相关产品，开源智能体平台。
量子计算摆脱GPU！IBM一句话AMD市值暴涨2000亿元：用FPGA芯片即可
IBM宣布在量子计算商业化取得重大进展，能在AMD芯片实时运行量子纠错算法，速度比需求快10倍，无需GPU，用FPGA芯片与量子计算机配合即可，这一突破让AMD和IBM市值均大幅上涨。