「连续批处理」共找到 131 篇相关文章
DeepSeek V4永久降价！缓存命中再打1折，实测编程成本骤降83%
DeepSeek两天连续两次降价，输入输出2.5折，命中缓存输入折上再1折且无时限。实测编程成本骤降83%，此前31.73元，打折后只需5.34元。其曾引发价格战，此次对海外用户冲击更大。
斯坦福英伟达推出测试时强化学习：微调开源模型胜过顶级闭源模型，仅需几百美元
斯坦福、英伟达等提出TTT - Discover方法，基于开源模型gpt - oss - 120b，在测试阶段引入强化学习更新模型权重。它采用熵目标函数和PUCT启发机制，解决分布外问题，成本低且表现优，但目前适用于连续奖励场景。
陈天桥旗下AI公司MiroMind打造全球顶尖预测型大模型，性能登顶行业基准
全球首个动态实时LLM智能体未来预测基准FutureX推出，陈天桥旗下MiroMind团队连续两周蝉联冠军。其模型采用记忆驱动机制，为预测与决策设计，还展现了在多领域的预测能力，且将开放相关框架和模型。
综述 | 从“说出来”到“脑中算”：Latent Reasoning的范式跃迁与无限可能
大型语言模型用显式思维链推理有局限，潜在思维链（Latent CoT）让推理在连续隐藏状态空间进行。论文梳理该领域，建立框架，介绍方法，探讨可解释性与无限深度推理，指出价值、挑战与未来方向。
深度剖析将 Kafka 构建在 S3 上的技术挑战与最佳实践
文章基于AutoMQ深入剖析将Kafka构建在S3上的挑战与解法。探讨延迟、IOPS、缓存管理等问题，介绍AutoMQ应对策略，如用WAL+S3架构降低延迟、批处理数据减少请求等，还提及Kafka兼容性及跨区流量成本处理。
AI云的大考来了：企业要的不再是参数，而是盈利 | 甲子光年
历经3年大模型热潮，AI云市场提问改变，企业更关注平台模型实用性和故障恢复能力。百度云智大会聚焦新一代智能基础设施与平台升级，其智能云连续六年排名第一，此次升级回应企业落地AI的核心问题。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。
300个AI员工，跑满4000步不崩，Kimi新一代模型K2.6来了
月之暗面开源发布 Kimi K2.6 模型，在通用智能体、代码编写和视觉理解等综合能力上全面跃升。它在多项测试成绩领先，能连续工作13小时，还在全栈开发、多智能体协作等方面有出色表现。
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
OpenAI深夜双王炸！GPT-5.1 Pro紧急发布，降维打击Gemini 3
OpenAI同一天发布GPT-5.1 Pro和GPT-5.1-Codex-Max。前者向Pro订阅用户推出，主打「情商智商」双强；后者在Codex平台上线，专为「长时间、高强度」开发任务设计，采用「压缩」机制，表现出色。