「零延迟」共找到 539 篇相关文章
华人学生立大功！新王Mamba-3直击Transformer死穴，推理效率碾压7倍
新一代开源架构Mamba-3发布，由CMU普林斯顿原班人马打造，15亿参数性能比Transformer高4%，长序列任务端到端延迟仅为其七分之一。它采用新设计哲学，推理优先，有三大核心技术，还能与自注意力层混合提升检索能力。
用「传心术」替代「对话」，清华大学联合无问芯穹、港中文等机构提出Cache-to-Cache模型通信新范式
随着大语言模型发展，多智能体系统中现有T2T交流方式有信息丢失、语义模糊、延迟大问题。清华等团队提出C2C信息传递方式，以KV - Cache为媒介，提升了正确率和速度，还介绍了实现路径、优势及应用前景。
Mastra 还是 LangGraph.js？选型先看三条断层线
2026 年上半年，TypeScript 团队做 AI Agent 常面临 Mastra 和 LangGraph.js 选型难题。二者功能清单趋同，但工程哲学不同。文章从语言原生与跨语言移植、缩到零的 serverless 与常驻的持久化、完整工具箱与自由原语三条断层线分析选型依据。
苹果提出新型反向传播：一台iPhone 15 Pro Max就能微调LLM
苹果提出内存高效型反向传播（MeBP），可在内存使用量和计算时间上比零阶优化（ZO）有更好权衡，收敛更快、性能更优，还在iPhone 15 Pro Max验证其有效性，且公开了实现链接但目前为空。
Luma Uni-1.1 API开放，图像模型榜单第三，文字渲染直逼GPT image 2
今年图像生成模型迭代快，海外AI初创公司Luma将统一图像模型Uni - 1升级到1.1版并开放API。它在榜单排名前三，价格与延迟低，有诸多品牌客户接入。展示了多场景应用效果，技术路线独特，定价有优势。
从“暴力烧Token”到“系统工程”：OpenAI与华为的两条 AI 编程路径
文章对比OpenAI与华为的AI编程路径，指出模型中心派靠推高上下文窗口但有成本高、延迟大等问题；工具驱动派如Cursor和华为云码道重构IDE工具。码道将任务解耦，通过多技术实现性价比，还介绍了底层基石及其实测表现。
火山引擎 veFuser：面向扩散模型的图像与视频生成推理服务框架
近年来扩散模型在图像和视频生成领域取得突破，但 DiT 模型推理面临计算量大、模型多样、实时性需求等挑战。火山引擎推出 veFuser 推理框架，能在图片和视频生成上实现低延迟、低成本的高质量体验，且未来会持续迭代。
OpenAI「辣椒芯」干翻英伟达！老黄股价不跌反涨
OpenAI自研芯片「小辣椒」跑分碾压英伟达最强blackwell，低延迟、高吞吐、低并发等全达SOTA级别。但英伟达股价未跌反涨，OpenAI也表态不会弃用英伟达。「小辣椒」预计2027年量产，OpenAI还将开发后续版本，不过其数据中心负责人离职，无人接手。
Gemini 3.5 Pro绝密泄露，前端赶超Fable 5！
全网被Gemini 3.5 Pro泄露刷屏，传闻7月17日发布。它在前端生成表现出色，一次成型、精准零失误，性能超Fable 5，但在硬核推理等任务上不如Fable 5和GPT - 5.6。谷歌为其重预训练，还准备对标GPT - Image 2的图像模型。