搜索：智能体推理框架

「智能体推理框架」共找到 6073 篇相关文章

Qwen3-Next全新架构，32K场景MTP吞吐提升10倍

随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。

8月4日，腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行，适用于低功耗场景。模型具备推理快、性价比高特点，亮点是Agent和长文能力，已在腾讯多业务应用。

本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。

港科广团队提出MultiGO创新方案，借助分层建模思路突破3D人体生成难题。该方案通过三级几何学习框架提升重建质量，在多个测试集上性能领先，且在多领域有应用优势，研究成果入选CVPR 2025，项目代码将开源。

蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T，打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0，想做成可复用底座。

Meta首席AI科学家LeCun在MIT演讲称，机器人行业离通用智能还远，家用机器人需AI突破，核心是打造‘世界模型’架构。此观点引特斯拉、Figure高管回怼。他还表示LLM有本质瓶颈，世界模型将成未来AI主流。

10月14日蚂蚁集团发布万亿参数思考模型Ring-1T，在多领域表现出色，推理能力直逼闭源巨头。此前已开源旗舰通用大模型Ling-1T。还介绍了训练技术创新，虽模型有不足，但开源夺冠证明‘思考力’可工程化。

在2025百度云智大会上，百度智能云千帆企业级AI开发平台发布4.0新版本，核心聚焦Agent。它一站式提供开发所需能力，解决模型选型、数据盘活等难题，还有RFT工具链降精调门槛，“白盒化”助问题诊断。

昨晚，月之暗面发布并开源 Kimi K2 大模型，同步上线更新 API，价格 16 元/百万 token 输出。它超过多个开源和闭源模型成新 SOTA，展示出领先能力，还介绍训练关键技术，或成模型智能进化关键。

文章从历史时间线出发，介绍AI诞生、发展历程，涉及细分技术模块。结合案例说明AI在不同阶段的应用，如早期机器翻译、垃圾邮件过滤。还探讨AI大模型、智能体等概念，分析调优方法和‘幻觉’问题，展望其未来前景。