「通信延迟」共找到 307 篇相关文章
后端架构新范式！阿里云专家亲揭：用RocketMQ彻底搞定多Agent异步协同难题
文章整理自阿里云专家演讲，介绍基于 Apache RocketMQ 新特性构建异步化 Multi - Agent 系统，探讨 Agent 间异步通信等机制，指出 Multi - Agent 协同关键，还讲了 RocketMQ 新特性及如何构建异步系统。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
DevProxy 0.28 发布，增加 AI 支持
微软发布 DevProxy 0.29 命令行工具，新版本增加 AI 支持，便于配置使用。它能模拟 API 及网络行为，结合 dev tunnels CLI 可检查云服务通信，还利用大模型生成文件，有重大架构变更等。
Cloudflare 发布公开测试版 Containers
Cloudflare宣布新的Containers服务发布公开测试版，可让开发者在其全球网络运行容器。该服务与Workers深度集成，能运行资源密集型应用等。虽有功能受限，但Reddit反馈积极，后续还有改进计划。
港科联合港中文提出AdaCtrl，自适应可控Reasoning，可降10~90%
港科联合港中文提出AdaCtrl，解决LLM推理的过度思考、算力浪费和响应延迟问题。它有自适应和用户控制两种模式，通过两阶段训练法实现目标，实验效果好，未来或拓展到多领域。
抢疯了！AI宠物翻译器：800多块，预售2万单
PettiChat宠物翻译器售价800多，预售2万单。它能将猫狗叫声转成句子，翻译延迟1.2秒，还具备位置追踪、安全警报和声音克隆功能。其靠大模型的声音识别和情绪推理系统实现翻译。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
AI 互动游戏的 GPT 时刻到了！谷歌Genie 3首测！太牛了！
谷歌去年发布世界模型Genie 3，支持实时生成可交互视频内容，因成本高未开放。现美国18岁以上Ultra用户可试玩，其操控延迟低、画面清晰、物理交互真实，还介绍了操作流程等。
10级漏洞刚补完，React又炸了！现代Web“默认底座”因一行代码缺失引发全球地震，开发者经历最黑暗一周
12月12日，React官方确认RSC里有两处新漏洞。此前React2Shell漏洞危害大，超两百万台服务器有风险，开发者服务器被入侵挖矿。该漏洞因核心通信机制缺一行校验代码，Vercel等平台受波及。
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR，针对Fused Triton MoE的Down Projection kernel加入TMA优化，在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著，还详细分析了优化背景、思路、实现细节及测试结果。