搜索：高效推理框架

「高效推理框架」共找到 3722 篇相关文章

景不动人动，MLLM如何面对「移步换景」的真实世界？OST-Bench揭示多模态大模型在线时空理解短板

上海多所高校研究者提出 OST - Bench，从智能体探索场景动态在线视角挑战大模型能力。它更贴近真实世界，揭示主流多模态大模型在线时空理解短板，为未来模型发展指明方向。

国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源，它在多方面提升，如编码、上下文长度等，评测性能佳，token消耗降低。经实测，其代码、研究、开发等能力强，成全球开源AI领域重要力量。

DeepSeek发布实验模型DeepSeek V3.2，引入自研稀疏注意力机制DSA，API价格最高降75%。DSA先筛选后计算，含闪电索引器和稀疏多潜在注意力两组件，分四步工作，权衡了精确性与速度。

Anthropic发布Claude Sonnet 4.5，官方称是全球最强代码、复杂智能体构建及擅用计算机的模型。伴随产品全家桶升级，还开放Claude Code构建工具，发布Imagine with Claude。该模型能力强且更安全。

中国科学院香港创新研究院发布超声大模型“聆音”，用超400万张图像的超声数据集，经自监督学习训练。它在多项诊断任务破纪录，临床效果佳，还将模型等开源，有望推动领域发展。

InfoQ直播栏目邀前阿里工程师吴子奇等探讨AI Coding与跨端研发。提到跨端框架设计、技术创新、人才要求等观点，还介绍快手和字节探索，10月QCon上海站设相关专题。

DeepResearch能递归拆解复杂任务自动生成报告，但OpenAI的相关产品费用高且闭源。霸榜GitHub的ROMA由Sentient AGI团队开发，性能超Grok - 4等，是开源杀手，还介绍了功能、使用方法和应用场景。

本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。

传统强化学习在创意写作领域举步维艰，蚂蚁技术研究院联合浙江大学开源全新强化学习范式Rubicon，构建10000+条「评分标尺」，拓展应用至主观任务领域，其30B模型用5000样本超越671B的DeepSeek V3。

波士顿动力为Atlas人形机器人训练全新大型行为模型LBMs，它是语言指令驱动的策略模型，能完成复杂操作任务。构建模型有四步骤，实践遵循三大原则，还展示了其多方面操作能力与特点。