搜索：开源推理模型

「开源推理模型」共找到 9214 篇相关文章

SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻

SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。

大湾区大学GVC实验室和北京交通大学团队开源CutClaw，它是模拟专业后期流程的多智能体系统，能实现音乐驱动剪辑，按文字指令自动剪辑，适配多平台，还可解构素材。操作简单，支持多模型。

伊利诺伊大学厄巴纳 - 香槟分校团队开发 LiveTradeBench，让大模型在真实金融市场交易，检验其能力。它全面开源，有实时数据、组合决策等创新，50 天实测揭示模型财商差距。

MCP•RL 是 Agent Reinforcement Trainer (ART) 框架一部分，能让 AI 模型通过强化学习学会高效使用 MCP 服务器，解决工具调用痛点。ART 无需标注数据、通用性强，提供便捷集成方式，项目开源。

LeRobot v0.4.0 正式发布，带来多方面重大升级。有可扩展的 Datasets v3.0、新 VLA 模型、全新插件系统；支持 LIBERO 和 Meta - World 仿真；还有数据处理 Pipeline、多 GPU 训练简化等特性，上线了机器人学习课程。

现有基于可验证奖励的强化学习（RLVR）应用范围局限，清华自然语言处理实验室提出 RLPR 技术，通过 Prob - to - Reward 提高概率奖励质量，有领域无关等特点，相关代码等已开源。

Meta发布V-JEPA 2世界模型及三个新基准测试，Meta首席AI科学家Yann LeCun介绍其不同。V-JEPA 2基于视频训练，用62小时机器人数据就能实现零样本控制，还将探索分层式模型和多模态建模。

斯坦福与英伟达联合发布论文 TTT - Discover，提出新范式，不追求通用，在推理阶段针对特定难题修改模型参数。它战绩辉煌，但成本高、是偏科生且需打分器，其出现是技术与哲学的突破。

SGLang 是开源推理引擎，截至 2025 年 6 月，在 GitHub 获近 15K Stars，月均下载超 10 万次，被多家行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享技术、挑战等，6 月 27 - 28 日他将在 AICon 演讲。

超对称公司发布自回归科学基座模型 BigBang - Proton，挑战主流 AGI 技术路线。它实现多学科问题与 LLM 统一预训练和推理，有三项创新，在多专业任务表现出色，还提出宇宙尺度压缩构想。