「低延迟」共找到 1123 篇相关文章
让NCCL性能起飞的NCCL symmetric memory是啥黑科技？— part1
本文是NCCL 2.27新特性系列首篇，介绍symmetric memory。它类似NVSHMEM，现仅支持单节点通信，未来将支持跨节点。其低延迟内核能提升小数据通信性能，还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。
Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。
RAG新SOTA，还在5亿条数据上跑进秒级，只有它了
本文围绕RAG技术展开，指出传统RAG在多跳推理等方面存在局限。介绍了GraphRAG、HippoRAG 2的优缺点，重点阐述Zleap AI的SAG方案，它用超边结构重构数据底座，在多跳问答测试中表现出色，还能在大规模数据下低延迟落地。
TreeHop：无需LLM的高效多跳问答新范式
多跳问答（MHQA）任务有挑战，现有方法依赖LLM，计算成本高、延迟显著。TreeHop研究提出新方案，摒弃LLM，通过嵌入空间动态更新，降低延迟、减少模型参数量，还在主流数据集表现佳，适合工业应用。
GPT-5刷屏吊胃口之际，英伟达发出暴论：小型语言模型才是未来
英伟达新论文指出，未来属于小型语言模型（SLM），挑战了智能体需用大型语言模型（LLM）的假设。SLM参数量低于100亿，有低延迟、低成本等优势，还给出从LLM到SLM迁移路线图。
AI圈再颠覆！中国AI翻译耳机通话翻译，实测震撼
科大讯飞发布全新AI翻译耳机，上海与迪拜连线对话实测表现震撼，响应延迟低至两秒。其集成“端到端语音同传”技术，采用“骨导+气导”设计。此外，翻译机2.0也升级，科大讯飞在AI翻译领域优势显著。
AI+直播的新玩法! StreamDiffusionV2让创意零延迟
生成模型改变直播行业，但此前模型难保证时间一致性、有延迟等问题。加利福尼亚大学推出StreamDiffusionV2，通过智能调度和缓存机制优化，支持多GPU并行，可灵活调画质和延迟，实现实时直播。
独立开发者必看，前端人想做低代码？先把这个 5k star 可视化拖拽编辑器 Demo 跑起来
`visual-drag-demo`是开源可视化拖拽编辑器Demo，偏前端与低代码方向。它把编辑器必备功能做成教学项目，适合想做搭建器、可视化配置等的人快速摸清实现方法，功能丰富，学习成本低。
直播实时离线翻译
传统离线翻译模型有延迟问题，GitHub上NoLanguageLeftWaiting开源项目把Meta的NLLB模型改造成实时同传模型，能边听边译，支持200种语言互译，还在开发推测解码功能提升速度。
The Batch: 977 | AI 对速度的需求为何如此迫切
开发者如今需更关注AI速度。OpenAI和Cerebras的Ultrafast、Google的Gemini 3.7 Flash、Nvidia的Nemotron 3.5 Lightning都主打速度。速度在AI领域对应延迟和吞吐量，影响应用体验和范围。