「零延迟」共找到 539 篇相关文章
优化搜索系统：平衡速度、相关性和可伸缩性
这篇文章基于作者在 2024 年旧金山 QCon 大会演讲，探讨搜索系统优化。以优步外卖为例，分析其在数据索引、检索和排名方面挑战，介绍优化技术及对用户体验和系统性能影响，还提及架构、分片技术等内容。
全新GPU高速互联设计，为大模型训练降本增效！北大/阶跃/曦智提出新一代高带宽域架构
随着大模型参数规模扩大，分布式训练成关键路径，高带宽域设计对提升训练效率至关重要。现有HBD架构在可扩展性、成本和容错能力等方面有局限，北大、阶跃、曦智团队提出InfiniteHBD架构解决问题。
10.2k星！Firecrawl开源PDF解析神器，大幅降低OCR成本
处理PDF时，若全用OCR成本和延迟会增加，直接提取文本又易遇乱序、乱码等问题。Firecrawl开源的pdf - inspector工具能智能区分扫描版和文本版PDF，按需使用OCR，精准处理。
The Batch: 950 |反数据中心运动持续升温
全美反对新建数据中心的声音不断扩大，人群通过立法表达不满，部分案例还出现暴力行为。反对理由包括电价、能耗等问题，约640亿美元项目被阻或延迟，新一代数据中心正采用更环保设计。
大规模替换数据库序列，保障百余个服务平稳运行
Coupang从关系型数据库迁移到NoSQL时，为解决序列替换问题，自研了专用解决方案。该方案采用双层缓存与滑动窗口预填充机制，以DynamoDB为数据源，让百余个服务无需重写代码完成迁移，性能和成本表现佳。
内存股集体大跌，原因竟是谷歌这篇一年前的论文
美国内存股集体暴跌，诱因是谷歌新博客介绍一年前公布的技术 TurboQuant。它是压缩算法，可大幅减少 LLM KV 缓存内存占用、提升速度且精度零损失，有望打乱市场对内存芯片增长预期。
Soul App 又又又开源了！这次是实时交互数字人，支持小时级长视频甚至无限时长！
Soul App 新开源实时数字人项目 SoulX-LiveAct，解决 AR 扩散模型流式生成稳定性问题。它实现 20 FPS 实时流式推理，延迟 0.94 秒，支持无限时长，有恒定显存等亮点，可用于多场景。
IEEE TVCG | 告别写代码！MoGraphGPT：基于模块化大模型与图形控制的2D交互场景创作
香港多所高校研究团队提出 MoGraphGPT 系统，结合上下文感知模块化大模型与图形化控制，能让用户零代码搭建 2D 交互场景。该成果被 IEEE TVCG 录用，还对比实验验证其优势。
世界模型原生新一代范式！极佳视界斩获全球第一后，GigaBrain-0.5M*再进化
具身世界模型新一代原生范式登场，GigaBrain-0.5M*在多真实机器人任务中数小时零失误。它依托世界模型，创新引入人在回路机制，研发采用四阶段闭环训练流程，优势显著。
蚂蚁发布全球首个视频-动作世界模型，开源即刷新世界纪录
从Sora惊艳亮相到谷歌开放Genie 3线上体验，世界模型从概念走向交互世界。蚂蚁旗下蚂蚁灵波开源全球首个视频 - 动作世界模型LingBot - VA，可驱动机器人完成复杂操作，解决长时漂移等问题，还提出工程化解法。