搜索：大模型推理系统

「大模型推理系统」共找到 9002 篇相关文章

Nanbeige4.2-3B：探索通用Agent小模型

在模型越做越大的当下，推理成本成了影响Agent大规模使用的关键因素。南北阁实验室推出Nanbeige4.2 - 3B，在架构、数据构造和训练pipeline层面做了系统工作，评测表现良好，还探索本地个人助手等应用。

强化学习是当今LLM重要技术，Unsloth团队发布教程，从吃豆人谈起，介绍RLHF、PPO到GRPO，分享用GRPO训练推理模型技巧，涵盖相关概念、训练方法及奖励函数设计等内容。

OpenAI昨夜官宣上线最强推理模型o3 - pro，还将o3价格暴降80%。o3 - pro专为深度思考和提供超可靠答案而生，在多项测试中表现优异，虽有速度慢等限制，但优势明显，网友实测效果惊艳。

OpenAI 自 GPT - 2 后重新开源，此次连发两个推理模型 gpt - oss - 120b 和 gpt - oss - 20b。它们性能达 o4 - mini 水平，可在笔记本、手机运行，有宽松许可等亮点，在多测试中表现出色。

2025年国际信息学奥林匹克（IOI）中，OpenAI推理模型获金牌，在AI参赛者中排第一，得分仅落后5位人类选手。其未专门训练，成绩较去年大幅提升。此前它在IMO也获金牌级别成绩。

4月16 - 18日QCon北京大会聚焦Agentic AI等前沿话题，记忆张量CTO李志宇将分享《大模型记忆系统MemOS 2.0：StarDust技术演进与关键挑战》，梳理技术演进，推出MemOS 2.0 StarDust，还分析实践痛点与演讲亮点。

清华大学李升波教授团队在NeurIPS 2025提出LLM - Filter通用滤波器，将状态估计融入大语言模型推理框架。它能解决传统方法泛化性差问题，在未见过系统中实现零样本状态估计，有望成基础模型。

离开Meta后，Yann LeCun创立AMI，还加入Logical Intelligence任技术研究委员会主席。该公司推能量 - 推理模型，与主流大模型路线不同，其Kona模型在数独测试上表现远超大模型。

清华大学和蚂蚁技术研究院联合团队开源全异步强化学习训练系统 AReaL-boba²，坚持“全面开源、极速训练、深度可定制”理念，实现异步 RL 训练，训练速度最高提升 2.77 倍，支持多轮智能体强化学习训练。

长期以来具身智能系统缺预测力，世界模型让智能体有了‘想象’未来的能力。中科大等机构团队综述将现有研究划分为模块化、顺序、统一三大架构集成范式，并指出未来研究方向。