「检索延迟」共找到 458 篇相关文章
用「传心术」替代「对话」，清华大学联合无问芯穹、港中文等机构提出Cache-to-Cache模型通信新范式
随着大语言模型发展，多智能体系统中现有T2T交流方式有信息丢失、语义模糊、延迟大问题。清华等团队提出C2C信息传递方式，以KV - Cache为媒介，提升了正确率和速度，还介绍了实现路径、优势及应用前景。
给 Agent 接搜索功能，有哪些「坑」需要特别注意？
搜索是AI产品标配，但给AI接搜索不易，给人用和给AI用的搜索差异大。信息检索质量影响Agent推理与任务完成度。邀请小宿科技相关人员聊给Agent接入搜索能力，10月30日20点线上闭门活动可扫码报名。
传统RAG只会翻书不会用？RAG+让Reasoning能力上一个新高度！
现有检索增强生成（RAG）技术在需复杂推理领域表现不佳，像只给菜谱不给实操演示。RAG+开创性新增“应用案例库”，与知识库构成双料库，在数学、法律、医疗场景测试中全面碾压传统方案，团队还透露了未来方向。
Luma Uni-1.1 API开放，图像模型榜单第三，文字渲染直逼GPT image 2
今年图像生成模型迭代快，海外AI初创公司Luma将统一图像模型Uni - 1升级到1.1版并开放API。它在榜单排名前三，价格与延迟低，有诸多品牌客户接入。展示了多场景应用效果，技术路线独特，定价有优势。
从“暴力烧Token”到“系统工程”：OpenAI与华为的两条 AI 编程路径
文章对比OpenAI与华为的AI编程路径，指出模型中心派靠推高上下文窗口但有成本高、延迟大等问题；工具驱动派如Cursor和华为云码道重构IDE工具。码道将任务解耦，通过多技术实现性价比，还介绍了底层基石及其实测表现。
火山引擎 veFuser：面向扩散模型的图像与视频生成推理服务框架
近年来扩散模型在图像和视频生成领域取得突破，但 DiT 模型推理面临计算量大、模型多样、实时性需求等挑战。火山引擎推出 veFuser 推理框架，能在图片和视频生成上实现低延迟、低成本的高质量体验，且未来会持续迭代。
对话百度文库：不做大模型能直接做的事，能力积累换来竞争壁垒｜AI产品Time
百度文库从文档检索平台转型为一站式AI内容获取和创作平台，付费用户超4000万，AI MAU近亿，智能PPT访问量全球第一。访谈中，负责人分享产品理念、优势及运营经验，如不走大模型能直接做的事，从用户需求出发开发功能等。
OpenAI「辣椒芯」干翻英伟达！老黄股价不跌反涨
OpenAI自研芯片「小辣椒」跑分碾压英伟达最强blackwell，低延迟、高吞吐、低并发等全达SOTA级别。但英伟达股价未跌反涨，OpenAI也表态不会弃用英伟达。「小辣椒」预计2027年量产，OpenAI还将开发后续版本，不过其数据中心负责人离职，无人接手。