「连续批处理」共找到 136 篇相关文章
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
OpenAI深夜双王炸！GPT-5.1 Pro紧急发布，降维打击Gemini 3
OpenAI同一天发布GPT-5.1 Pro和GPT-5.1-Codex-Max。前者向Pro订阅用户推出，主打「情商智商」双强；后者在Codex平台上线，专为「长时间、高强度」开发任务设计，采用「压缩」机制，表现出色。
世界模型一口气输出小时级视频不跑偏，开源了
Alaya Lab等联合推出的Alaya - EVOKE能生成小时级视频，解决常见问题。它把记忆搬到模型外，改造教师模型，经多轮技术操作，实验成绩佳，给出清晰训练方案，也指出项目边界。
聊聊AI应用架构演进
本文按AI应用架构演进路线，介绍每次演进增加的架构内容及相关技术，涵盖从简易架构到Agent模式等各阶段，还提及监控、推理性能优化等，助读者整理新技术，为探讨AI与传统应用架构异同做调研。
刚刚，谷歌Gemini 4全面开火：API限时半价、缓存直降95%，自建仿真教会机器人连中7球
本文报道谷歌发布新一代旗舰大模型Gemini 4 Argon，该模型升级百万token上下文窗口，多项专业评测成绩领先，推出限时降价促销，落地工程、科研、机器人等多场景，同时披露大模型新安全风险与应对方案
斯坦福×英伟达发布AI推理新范式，刷新了多领域SOTA
斯坦福与英伟达联合发布论文 TTT - Discover，提出新范式，不追求通用，在推理阶段针对特定难题修改模型参数。它战绩辉煌，但成本高、是偏科生且需打分器，其出现是技术与哲学的突破。
浙大彭思达团队 × 理想最新研究：直面高分辨率深度的细节缺失
现有高分辨率深度估计方法在实际使用中存在局限，浙江大学彭思达团队联合理想研究团队提出论文《InfiniDepth: Arbitrary-Resolution and Fine-Grained Depth Estimation with Neural Implicit Fields》，构建实验验证了InfiniDepth在多方面的有效性。
OpenAI宋飏被Meta挖跑了！扩散模型崛起关键人物，加入MSL再会师清华校友赵晟佳
最新消息，扎克伯格从OpenAI挖走华人研究员宋飏。他是扩散模型崛起关键人物，曾带队OpenAI战略探索团队。在OpenAI他成果显著，其研究或终结扩散模型。现加入Meta MSL，与清华校友赵晟佳会师。
Pinterest 基于 CDC 的摄取系统将数据库延迟从 24 小时缩短至 15 分钟
Pinterest 推出新一代数据库摄取框架，突破传统批处理局限。旧系统延迟高、运维复杂，新框架基于 CDC 等构建，处理有变化记录，将数据延迟从超 24 小时降至 15 分钟，还节省成本。
Apple发布新SOTA Manzano：混合Tokenizer破解多模态统一难题，理解与生成双翼齐飞
多模态AI前景广，但现有模型在理解和生成任务上存在性能冲突。苹果提出Manzano模型，用混合视觉标记器降低任务冲突，结构简单可扩展，在多基准测试达SoTA水平，还展示图像编辑潜力。