「延迟」共找到 207 篇相关文章
OpenAI 推出 gpt-realtime：语音智能体进入“秒回”时代，开发者直呼交互更自然
OpenAI 发布语音对语音模型 gpt - realtime，开放 Realtime API。其结合可端到端处理语音，缩短响应时间。模型语音质量、理解能力、函数调用能力提升，API 全面升级，多家企业已试点，还强化了安全措施。
吴恩达来信：试试语音交互吧！
吴恩达认为基于语音、可对话的AI系统在发展，语音用户界面将普及。虽不会完全取代传统界面，但会带来新应用场景。还介绍了Vocal Bridge架构，且构建语音UI可能比想象容易。
新的 Rust 客户端致力于实现基于 Aerospike 的安全、高性能应用
Aerospike正式发布Rust客户端，用于与其实时NoSQL数据库交互。采用异步优先并发模型，支持批命令等。还将支持分区查询等功能，Aerospike也提供其他客户端库助开发者构建应用。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。
NVIDIA 入局量子基础设施：Ising 模型主打自动校准与实时纠错
NVIDIA宣布推出开源NVIDIA Ising模型，解决量子处理器校准和纠错问题。它含校准和解码两组件，速度和准确性优，可本地部署。与传统方法不同，它是与硬件无关的开源模型层，社区反馈有期待也有疑问。
英伟达放弃GPU上LPU：新推理芯片被曝Groq即买即用，OpenAI第一个吃螃蟹
英伟达将在GTC大会发布新AI推理系统，核心芯片基于Groq的LPU架构，首位大客户是OpenAI。选择外部架构与时间窗口有关，推理场景中LPU更适配。同时，英伟达推理芯片面临诸多威胁。
全球首款AI原生UGC游戏引擎诞生！输入文字秒建GTA世界，试玩体验来了
全球首个由实时世界模型驱动的AI原生游戏引擎Mirage问世，玩家能实时构思、生成并体验游戏世界。虽当前体验有不足，但它有显著优势，支持多元游戏类型，基于前沿技术构建。
游戏教父 John Carmack：LLM 不是游戏的未来
游戏教父 John Carmack 认为 LLM 不是游戏未来，强调交互式体验学习重要性。他倾向游戏和虚拟环境研究，分析 Atari 游戏强化学习问题，还提及离线学习、迁移学习等方面挑战。
3.4K星Apple出品FastVLM：视觉TTFT效率提升85倍，凭啥这么牛！
文章指出VLM在实际生产应用中因高分辨率图像存在效率问题，介绍Apple出品的FastVLM解决方案，阐述其架构、训练过程，展示在多个基准测试的性能，凸显在高分辨率输入下提升效率的优势及实际应用价值。
SGLang Team：在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek
本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性，SGLang 实现高吞吐量，成本低。博客探讨并行设计、优化方法，所有组件开源，也指出了当前局限与未来方向。