「延迟遗憾」共找到 222 篇相关文章
百度百舸演讲：用 Agent 优化 SGLang，从改Kernel修改到端到端验证
本文是百度百舸与SGLang联合Meetup的分享整理，讲解如何让Agent完成从瓶颈定位、Kernel修改到端到端验证的全流程SGLang性能优化，覆盖多类模型场景，公布实测性能提升数据与百度百舸的通信优化效果。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。
NVIDIA 入局量子基础设施：Ising 模型主打自动校准与实时纠错
NVIDIA宣布推出开源NVIDIA Ising模型，解决量子处理器校准和纠错问题。它含校准和解码两组件，速度和准确性优，可本地部署。与传统方法不同，它是与硬件无关的开源模型层，社区反馈有期待也有疑问。
英伟达放弃GPU上LPU：新推理芯片被曝Groq即买即用，OpenAI第一个吃螃蟹
英伟达将在GTC大会发布新AI推理系统，核心芯片基于Groq的LPU架构，首位大客户是OpenAI。选择外部架构与时间窗口有关，推理场景中LPU更适配。同时，英伟达推理芯片面临诸多威胁。
全球首款AI原生UGC游戏引擎诞生！输入文字秒建GTA世界，试玩体验来了
全球首个由实时世界模型驱动的AI原生游戏引擎Mirage问世，玩家能实时构思、生成并体验游戏世界。虽当前体验有不足，但它有显著优势，支持多元游戏类型，基于前沿技术构建。
游戏教父 John Carmack：LLM 不是游戏的未来
游戏教父 John Carmack 认为 LLM 不是游戏未来，强调交互式体验学习重要性。他倾向游戏和虚拟环境研究，分析 Atari 游戏强化学习问题，还提及离线学习、迁移学习等方面挑战。
3.4K星Apple出品FastVLM：视觉TTFT效率提升85倍，凭啥这么牛！
文章指出VLM在实际生产应用中因高分辨率图像存在效率问题，介绍Apple出品的FastVLM解决方案，阐述其架构、训练过程，展示在多个基准测试的性能，凸显在高分辨率输入下提升效率的优势及实际应用价值。
SGLang Team：在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek
本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性，SGLang 实现高吞吐量，成本低。博客探讨并行设计、优化方法，所有组件开源，也指出了当前局限与未来方向。
Cloudflare 详解从 WordPress 迁移至 EmDash 的过程
本文为InfoQ翻译内容，Cloudflare公开了将官方主博客从WordPress迁移到自研开源内容管理系统EmDash的完整过程，分享了性能测试结果与灰度迁移方案，讨论了新CMS的优势。
当AI幻觉开始操作电脑：深大、港科大提出ECA，让Agent行动前先验证证据
本文针对Agent场景下AI幻觉会转化为实际错误操作的问题，介绍深圳大学与香港科技大学提出的ECA框架，通过独立验证加门控检查降低不安全执行风险，给出测试数据验证方案有效性。