「吞吐量提升」共找到 2971 篇相关文章
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
9B“小”模型干了票“大”的：性能超8倍参数模型，拿下23项SOTA | 智谱开源
智谱发布并开源仅9B大小的模型GLM-4.1V-9B-Thinking，在28项评测中拿下23个SOTA，成10B级别最佳VLM模型。它引入思维链推理机制，通过课程采样强化学习提升能力，还获10亿投资。
从 AI 招聘到数据标注，Mercor 能否打造下一个 Scale AI？
Mercor 从 AI 招聘平台转型为数据标注服务提供商，与 Scale AI 竞争。它利用早期人才招聘积累，为小规模、高难度项目提供灵活方案，虽数据质量待提升，但增长快，2025 年初 ARR 达 7500 万美元，获 1 亿美元 B 轮融资。
ICML26 | 浙江理工大学马啸讲师和南京大学李武军教授课题组联合提出EMCES：为强化学习合成更有价值的样本
强化学习获取高质量样本成本高、风险大，现有基于扩散模型的样本增强方法有局限。浙江理工大学马啸讲师和南京大学李武军教授课题组提出 EMCES，将情景记忆机制引入可控扩散模型，提升下游强化学习算法表现，论文已被 ICML2026 录用。
从 Redis 到 Valkey，开源社区如何快速创新？
文章介绍了开源键值数据库 Valkey，它诞生于 2024 年 3 月，由 Linux 开源基金会托管，完全兼容 Redis OSS 7.2.4。Valkey 版本迭代快、性能提升、云厂商跟进、社区规模增长、迁移成本低。中国开发者在其中贡献突出，Valkey China 公众号也已上线。
阿里通义开源GUI智能体SOTA：2B到235B端云协同重新定义移动端GUI智能体
阿里通义实验室开源MAI - UI，通过端云协同架构等解决GUI智能体部署难题。它全谱系模型设计应对硬件约束，自进化数据管线和在线强化学习提升性能，端云协同平衡隐私与效率，扩展动作空间打破局限，在多基准测试创SOTA。
用「传心术」替代「对话」，清华大学联合无问芯穹、港中文等机构提出Cache-to-Cache模型通信新范式
随着大语言模型发展，多智能体系统中现有T2T交流方式有信息丢失、语义模糊、延迟大问题。清华等团队提出C2C信息传递方式，以KV - Cache为媒介，提升了正确率和速度，还介绍了实现路径、优势及应用前景。
Sora 2刷屏全网：拍《瑞克和莫蒂》、过物理测试，太棒了
OpenAI推出的Sora 2刷屏海外，能完成以往视频生成模型极难实现的任务，在物理准确性、逼真度和可控性上有重大提升。它还能进行二创、模拟电脑操作等。OpenAI发布由Sora 2驱动的社交APP，强调促进创作，保障安全。
AI正在淘汰“中间层”！昆仑万维方汉：要么冲进前10%，要么学会“向下兼容”
InfoQ 专访昆仑万维董事长兼 CEO 方汉。他指出 AI 会全面提升行业效率，促使从业者“向上”或“向下”发展；企业出海要选好市场、做好本地化和差异化；还探讨了 AI 商业化、开源等问题，认为开源能满足长尾需求、带来销售线索。
“不用 Cursor和 ChatGPT、手写代码的开发者，怕不是疯了？”
本文围绕开发者是否应使用AI辅助编程展开讨论。支持者认为大模型能提升效率，解决琐碎问题；反对者则质疑其可靠性。文中还分析了大模型在编程中的优缺点，如能生成代码但也有幻觉等问题，并反驳了一些反对观点。