「混合推理架构」共找到 3634 篇相关文章
落地商用开启国产一体化智算新时代，蓝芯算力LX500亮相滴水湖RISC-V产业论坛
2026年8月13日，第五届滴水湖中国RISC - V产业论坛召开。蓝芯算力生态营销负责人许庆伟以核心产品LX500为线索，从架构、算力、商业落地三方面，展示国产RISC - V算力商用路径。
AI终于学会「读懂人心」，带飞DeepSeek R1，OpenAI o3等模型
威斯康星大学麦迪逊分校联合清华大学的研究《MetaMind: Modeling Human Social Thoughts with Metacognitive Multi-Agent Systems》，将元认知理论融入LLM架构，让AI“读懂人心”。其框架分三阶段，还有动态社交记忆，在多基准测试表现出色。
李开复入场Agent！零一万物推出“万仔”，直接对话CEO走独特“一把手工程打法”
今早，李开复宣布零一万物升级万智平台2.0并推出企业级Agent智能体。他指出AI Agent正重构企业架构，零一万物采用“一把手工程打法”，万智2.0有五大功能，还预计了AI Agent三个演进层级。
智谱开源GLM-4.5工具调用超越Claude Opus 4.1，成本仅1.4%
开源模型GLM-4.5在伯克利工具使用榜单上超越Claude Opus 4.1，运行相同任务成本仅为1.4%。它采用MoE架构，在多场景表现卓越，推理速度快，成本低，还接入多款主流编程工具。
突发！Qwen更新模型，全面超越kimi k2，强的离谱，主打Agent
Qwen小更新非推理模型性能强劲，各项指标超kimi k2，与Claude opus 4持平，Agent能力亮眼。Qwen团队告别混合思维模式，新模型上线，独立训练两模型，新版本多方面提升，团队称还有大招。
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
首个基于MCP 的 RAG 框架：UltraRAG 2.0用几十行代码实现高性能RAG， 拒绝冗长工程实现
检索增强生成系统（RAG）复杂度提升，工程实现成本高。清华大学等联合推出首个基于MCP架构的UltraRAG 2.0，组件化封装、调用扩展灵活，低代码实现高性能，可用于科研和行业应用。
DeepMind 创始人 Hassabis 语出惊人：百万 token 只是在贴胶带，AGI 在 2030 年
DeepMind创始人Hassabis在访谈中评估AGI进展，认为当前范式是最终架构一部分，但持续学习等问题待解决，预计2030年左右实现AGI，还探讨了Agent、蒸馏等多方面内容，并给创业者建议。
英伟达GPU全系列硬核科普手册：一文读懂NVIDIA芯片的定位、规格与应用场景
这是英伟达GPU全系列硬核科普手册，覆盖消费级、工作站、推理卡、训练卡及中国特供版五大产品线，讲清区别与用法，还介绍架构演进、命名规则等，助读者秒变选型高手。
蚂蚁集团扩散大语言模型新突破：超800Token/s，速度与质量兼得
蚂蚁集团将LLaDA更新到2.1，通过引入“草稿 - 编辑”机制，打破扩散模型推理速度与质量的对立僵局。它有极速和质量两种模式，还采用混合训练流程及强化学习，在多基准测试中表现出色。