「低延迟推理」共找到 2954 篇相关文章
DeepSeek 官宣V3.1：迈向 Agent 时代的第一步！
DeepSeek 官宣发布 V3.1，称这是迈向 Agent 时代第一步。其有混合推理模式，Agent 能力全面进化，API 也全面升级，支持 Anthropic API 格式。还继续开源，9 月 5 日起调整价格，社区反响热烈。
DeepSeek V3.1 Base突袭上线！击败Claude 4编程爆表，全网在蹲R2和V4
昨晚，DeepSeek官方悄然上线全新V3.1版本，上下文长度拓展到128k，参数685B，支持多种精度格式。其编程能力突出，在Aider测试中霸榜，性能超越Claude Opus 4，还有成本低等优势。
突破Claude-4编程上限！自进化Agent框架拿下新SOTA，底模越好性能越高，已开源
中科院、清华等提出SE - Agent自进化框架，突破Claude - 4编程上限。它让智能体系统性修订、重组与精炼思考过程，在SWE - Bench Verified上刷新开源框架SOTA，已开源。
大型语言模型稳定强化学习的新路径：几何平均策略优化GMPO
本文介绍了大型语言模型稳定强化学习新路径——几何平均策略优化GMPO。它是GRPO稳定化版本，通过优化几何平均替代算术平均，解决GRPO训练不稳定问题，在多任务实验中显著优于GRPO。
16K星 Zep凭一张“动态记忆图”吊打一众Graph RAG
现有的RAG框架多依赖静态文档检索，无法满足企业对动态知识整合的需求。本次分享的Zep提供新型智能体记忆层服务，通过核心组件Graphiti动态整合数据，在LongMemEval基准测试中表现出色。
国产LLM又迎来一波开源潮：Qwen、华为盘古、腾讯混元、小米~
本周国产开源LLM集中爆发，Qwen、华为盘古、腾讯混元、小米等接连发布模型。如Qwen3 - 4B性能提升，Qwen - Image文生图能力强；华为开源盘古模型并宣布CANN开源；腾讯混元小尺寸模型特点多且已落地业务。
李开复入场Agent！零一万物推出“万仔”，直接对话CEO走独特“一把手工程打法”
今早，李开复宣布零一万物升级万智平台2.0并推出企业级Agent智能体。他指出AI Agent正重构企业架构，零一万物采用“一把手工程打法”，万智2.0有五大功能，还预计了AI Agent三个演进层级。
全球首个IMO金牌AI诞生！谷歌Gemini碾碎奥数神话，拿下35分震惊裁判
谷歌DeepMind官宣Gemini Deep Think在IMO获官方认证金牌，4.5小时解5题得35分。它用纯英语解题，结合并行思考与强化学习训练。谷歌后续将向部分测试者及订阅者推出模型，还公开了解题过程。
世界首个「实时、无限」扩散视频生成模型，Karpathy投资站台
Decart发布世界首个「实时、无限」扩散视频模型MirageLSD，输入视频流能快速转化画面，前特斯拉AI总监Karpathy投资。它在时长和延迟上有突破，也有需改进之处。
ICLR 2025新成果：文档检索“降本增效”，从此“开挂”
传统文档检索系统处理视觉信息丰富的文档存在瓶颈，ColPali方法直接从文档页面图像生成多向量嵌入，简化流程、提高性能、降低延迟。ColQwen - Omni在其架构上扩展到图文+音频多模态匹配。