「混合推理架构」共找到 3672 篇相关文章
成本暴降88%！通义实验室、北大发布ZeroSearch，无需搜索即可激活LLM检索能力
信息检索能力对提升大语言模型推理表现至关重要，但现有方法在训练中面临文档质量不可控和搜索 API 成本高昂两大挑战。为此，通义实验室和北大提出 ZeroSearch 框架，无需真实搜索即可激活 LLM 检索能力，显著降低成本。
成熟工程师1天完成调试，AI工程实践被MCP彻底颠覆？
去年11月Anthropic发布模型上下文协议（MCP），开发者社区迅速采用，AWS、GitHub、OpenAI等也已采用。MCP标准化数据和工具与AI代理的集成，简化定制化AI应用构建。采访华院计算杨小东，解析其架构、应用及商业价值。
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
3.4K星Apple出品FastVLM：视觉TTFT效率提升85倍，凭啥这么牛！
文章指出VLM在实际生产应用中因高分辨率图像存在效率问题，介绍Apple出品的FastVLM解决方案，阐述其架构、训练过程，展示在多个基准测试的性能，凸显在高分辨率输入下提升效率的优势及实际应用价值。
大模型之外，向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成，而Agent需获取外部数据等。向量存储可将数据转化为语义向量，在Agent执行任务时找回相关内容。文章探讨向量存储技术方向，分享做法，还演示阿里云两种Serverless向量存储用法。
Qwen3-VL-Seg 深度解读：当多模态大模型学会"像素级精准手术"，仅用0.4%参数碾压8B模型
文章深度解读阿里通义实验室发布的Qwen3-VL-Seg，它解决开放世界指代分割问题，用仅17M参数（占基础模型0.4%）在4B规模超越8B模型。介绍其原理、架构、数据、实验结果，还给出实战代码。
“今天的OpenAI，就是昨天的Sun！” 杨立昆最新长谈：像Linux击溃微软一样，开源AI终将统治世界
图灵奖得主杨立昆在万字对话中阐述AI逆行逻辑，认为LLM非通向人类智能的道路，因其缺乏预测行动后果等能力。他离开Meta创立AMI Labs，专注世界模型和JEPA架构，还介绍Tapestry项目，主张开源AI将统治世界。
全球医疗榜第一，中国AI杀疯了！医疗AI迈入Harness时代
火爆的Harness架构在医疗圈落地，智诊科技发布面向医疗健康行业的Agent OS平台WiseClaw 2.0。它以健康档案为核心，有三层流水线等设计，适用于多场景，且在模型、中层能力和上层治理有优势，还获融资加速发展。
一个大脑控制所有机器人，真的可能吗？特斯拉、Skild AI、Agility 激辩人形机器人的量产路线｜GTC 2026
GTC 2026 上，特斯拉、Skild AI 等公司就人形机器人量产路线展开讨论。涉及数据采集、仿真作用、模型架构等话题，各公司观点不一，如特斯拉强调端到端，Skild AI 看重通用大脑，反映出行业在迈向量产时的探索与分歧。
不卷速度卷验证，陈天桥MiroMind精准预测15天后黄金价格
陈天桥带队的MiroMind发布新一代重型推理智能体MiroThinker-1.7和MiroThinker-H1，在基准测试中表现优异，超越众多顶尖模型。该模型不仅通用任务强，在科技金融等专业领域也表现亮眼，还能承担真实长链条智力任务。