搜索：大模型推理系统

「大模型推理系统」共找到 9145 篇相关文章

ROLL：面向大规模语言模型的高效强化学习框架

本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。

Anthropic发布Claude 4.5，在编程等任务中表现优于GPT - 5。Claude Code升级，API添新功能，模型能力提升，对齐性改善。还推出Claude Agent SDK及“Imagine with Claude”功能。

介绍在校生开发的开源工具 HypoMux，它面向 Windows，能把多张网卡「绑」在一起，让下载任务多线路并行。有双模式可选，还能智能分流，兼容主流加速器。操作简便，可解决下载慢问题。

Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。

Google推出新图像生成和编辑功能，社区称其为‘Nano Banana’，号称‘世界第一’且免费开放。它有风格转换、背景编辑等亮点，用户反馈整体积极，但也存在API限制等问题，与对手有差距也有优势。

EverMind团队发布面向人工智能智能体的长期记忆操作系统EverMemOS。它在主流评测集表现超此前工作成新SOTA，受人类大脑记忆机制启发设计，有四层架构和三大特点，已开源，后续将推云服务。

传统AI助手应对复杂任务能力有限，斯坦福开源OctoTools，这一复杂推理AI Agent融合11种工具。它在16项基准测试中准确率高，能应对多领域复杂场景，框架含工具卡片、规划器等构件。

当下AI圈热捧Harness Engineering，Anthropic让Harness从概念成产品，众多企业纷纷入局。但Meta反其道而行，发布Muse Spark模型，还联合提出神经计算机领域，其论文对相关概念做了介绍并展示实验结果。

2025年6月以来文档解析方法快速增长，有10余种。按“技术路线 + 工程形态”可归为4大类：传统级联流水线、轻量多模态两段式、通用多模态大模型一段式、轻量多模态一段式，各有优劣，4条路线覆盖所有OCR落地场景。

文章围绕生成式推荐展开，介绍其概念，探讨效果和成本问题。以Meta的GR和快手的OneRec为例，分析收益与开销，指出不同团队应用情况，认为它或带来架构革新，也提醒勿盲目跟风。