「推理架构」共找到 3525 篇相关文章
开源多模态推理「破壁」时刻：MMFineReason助力4B逆袭30B
长期以来，开源多模态模型在复杂推理任务上与顶尖闭源模型有差距，核心痛点是高质量推理数据匮乏。上海AI实验室OpenDataLab团队开源MMFineReason框架及大规模数据集，小模型凭此实现性能逆袭。
FriendliAI获2000万美元，以加速AI模型推理工作负载
专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资，资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗，能为用户省90%的GPU成本，合作客户广泛。
NVIDIA 推出Rubin CPX，专为AI推理设计的GPU
NVIDIA发布专为大规模上下文AI推理设计的Rubin CPX GPU，性能提升显著，集成视频编解码器和长文本推理处理。新平台算力强，适用于代码生成与视频处理，多家公司将采用，2026年底上市。
Meta提出StepWiser，让模型学会“反思”自己的推理过程
Meta提出StepWiser解决大语言模型推理逻辑正确性问题。它训练生成式评判模型，通过强化学习在线训练，能解释推理步骤好坏。实验显示其远超传统方法，为构建可靠AI系统提供新思路。
统一架构新思考，北大团队UniWorld-V1统一大模型
北大袁粒课题组提出统一大模型架构UniWorld-V1。通过对GPT - 4o - Image实验，发现其依赖语义编码器提取视觉特征，据此设计架构，在多基准测试表现优异，开源代码等促进研究。
深入理解OpenClaw技术架构与实现原理（下）
文章为《深入理解OpenClaw技术架构与实现原理（下）》，讲解各系统模块，如SandBox沙箱系统、记忆管理等，还介绍自进化、工作区与路由等机制，最后展望企业级智能体架构和应用方向演进。
Tool-Star：赋予大模型结合多工具推理的能力
文章提出Tool - Star框架，旨在解决大模型多工具协作推理难题。它从数据端到训练流程优化，让模型调用多种工具，在复杂计算和知识型推理任务表现卓越，还探讨了未来多模态及多工具扩展方向。
DeepSeek、GPT、Qwen，所有大模型架构图都有，Karpathy：宝藏画廊！
大模型赛道热闹，架构创新多，理解困难且缺清晰架构图。AI 研究者 Sebastian Raschka 绘制主流大模型结构，整理成在线图谱「LLM Architecture Gallery」，方便研究者查阅对比。
推理token减少46%！Meta新方法缩短思维链，告别重复推导
Meta等联合提出元认知复用机制，让模型总结解题思路，提炼为“行为”存于“行为手册”。实验显示，该机制在数学基准测试中显著优化，保持准确率时最多减少46%推理token使用量。
性能提升11.74%！腾讯优图提出激励推理，专攻复杂指令
现有大语言模型处理复杂指令能力不足，腾讯优图研究团队提出激励推理方法。该方法能提升LLM处理复杂指令表现，在1.5B参数LLM上性能提升11.74%，媲美8B参数模型。