「检索延迟」共找到 458 篇相关文章
把远程控制封装成MCP，这个国民神器发力了！
向日葵推出重要更新向日葵MCP，将远程控制能力封装成标准接口，让AI替用户远程操控电脑。它功能多样，配置简单，如智能检索设备、支持多种会话类型等，还能一站式搞定多种远程操作。
抢疯了！AI宠物翻译器：800多块，预售2万单
PettiChat宠物翻译器售价800多，预售2万单。它能将猫狗叫声转成句子，翻译延迟1.2秒，还具备位置追踪、安全警报和声音克隆功能。其靠大模型的声音识别和情绪推理系统实现翻译。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
AI 互动游戏的 GPT 时刻到了！谷歌Genie 3首测！太牛了！
谷歌去年发布世界模型Genie 3，支持实时生成可交互视频内容，因成本高未开放。现美国18岁以上Ultra用户可试玩，其操控延迟低、画面清晰、物理交互真实，还介绍了操作流程等。
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
谷歌卷Gemini模型，OpenAI刷GPT-5科研论文
谷歌推出Gemini 3 pro等模型，来势汹汹。OpenAI CEO称其带来经济阻力，还挖掘GPT - 5应用价值并发表89页论文，展示在科研流程中的表现，也提及失败风险与可用Prompt模板。
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR，针对Fused Triton MoE的Down Projection kernel加入TMA优化，在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著，还详细分析了优化背景、思路、实现细节及测试结果。
Anthropic官方解密：3招上下文优化，破解Agent性能暴跌
本文是Anthropic官方文章翻译，从提示词工程拓展到上下文工程，阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成，还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。
如何改变AI研究范式？谷歌DeepResearch新方法TTD-DR原理与实现 | 原理篇
谷歌提出新的DeepResearch方法TTD - DR，它模拟人类研究范式，将Agent起草的初稿视为‘含噪声输出’，经多轮检索 - 改进使初稿成高质量终稿，还引入自进化机制，测试显示其在复杂任务上领先。
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。