「检索延迟」共找到 458 篇相关文章
MemOS：一种用于 AI 应用的记忆操作系统
大型语言模型缺乏记忆管理系统，限制其发展。MemTensor与高校联合开源MemOS，它将记忆视为可管理资源，有三层架构，系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。
华为CloudMatrix重磅论文披露AI数据中心新范式，推理效率超NV H100
华为发布60页重磅论文，提出下一代AI数据中心架构Huawei CloudMatrix及产品CloudMatrix384。它架构设计独特，性能高效准确灵活，打破算力、延迟和成本“不可能三角”，重新定义AI基础设施。
《生化危机》女主演跨界AI拿SOTA了！打造免费“AI记忆系统”爆火GitHub
《生化危机》女主角Milla Jovovich与程序员老友及Claude合作，打造开源免费的AI记忆系统MemPalace。该系统在多项测试中成绩优异，采用“记忆宫殿法”，检索效率提升34%，还设计了AAAK语言，成本低且精度高。
英伟达开源上瘾了！推出了一款实时语音智能体的终极 ASR：24ms 极速锁定。
英伟达开源了Nemotron Speech ASR模型，它是低延迟、实时流式语音识别模型，单句转录锁定仅需24毫秒。其核心能力包括缓存感知、运行效率高、动态运行灵活，还被放进完整语音智能体方案。
让大模型指哪打哪的Multi-Agent路由新范式
随着MCP生态兴起，一个Assistant背后可能挂数百工具/子Agent，传统检索方式有成本高、埋没工具等问题。作者提出Tool-to-Agent Retrieval新范式，实验显示指标全面提升，证明工具细节能补足语义。
LinkedIn 重构服务发现：在大规模环境中用 Kafka 和 xDS 取代 Zookeeper
LinkedIn 工程博客中，Bohan Yang 介绍升级基于 ZooKeeper 的传统服务发现平台项目。因传统系统有扩展性问题，团队开发新架构，分离读写路径，实施双读双写机制，迁移后数据传播延迟显著改善。
打破视频推理「先看后想」惯性，实现真正的「边看边想」丨CVPR'26
现有大型视觉语言模型（VLM）在实时场景表现不佳，宁波东方理工大学沈晓宇团队提出TaYS，让VLM从“帧文交错”切换到“并行”，实现“边看边想”，在准确性和延迟上表现出色，推动VLM走向更真实应用。
解决特斯拉「监督稀疏」难题，DriveVLA-W0用世界模型放大自动驾驶Data Scaling Law
自动驾驶领域VLA大模型面临‘监督稀疏’难题，特斯拉公布此挑战。DriveVLA - W0研究提出用世界模型解决，将‘预测未来图像’作自监督训练任务，还提出轻量级架构降低推理延迟。
用视频存储文本的黑科技！
memvid-rs是memvid的Rust重实现，可将文本文档编码为视频二维码实现存储和检索。它有高性能、用TRUE机器学习等特点，兼容多格式、跨平台，无需安装，适合存档文本语料库等。
Deep Search 如何理解业务仓库代码？
文章系统介绍Deep Search和Deep Research概念、与传统RAG区别、主流商业产品与开源方案、在代码领域应用及未来规划。提出Deep Search方案，构建独特代码理解与检索架构，还计划研发专用代码搜索Agent。