「轻量化推理」共找到 2328 篇相关文章
上海交大DENG Lab提出「LatentUM」：Unified Model的真正「战场」在视觉推理与世界模型
上海交通大学 DENG Lab 提出的 LatentUM，尝试让统一模型把生成的视觉内容纳入推理闭环。它在多项任务上超越基线，其核心思路是生成与语言共享语义空间的离散 visual semantic tokens，模型含三大关键设计。
英伟达成开源新王？Nemotron 3全新混合专家架构，推理效率升4倍
北京时间今天凌晨，英伟达发布 Nemotron 3 系列开放模型，含 Nano、Super 和 Ultra 三种规模。Nano 已上线 Hugging Face，采用混合 MoE 架构，推理效率提升显著。该系列还具备多种核心技术和实用能力，相关工具和数据集也已开源。
首个时空时序推理框架：让大模型真正读懂时空数据 | ACL'26
STReasoner是首个结合时间序列、空间结构和自然语言的推理模型，能识别异常源、追踪影响路径。研究团队构建数据生成框架和评测基准，采用三阶段训练策略，模型在多任务表现优，成本低且泛化能力强。
IBM推出轻量多模态文档神器！OCR与QA超GPT-4o，识别率高达98%！
日常文档处理麻烦，现有工具或体积大、算力消耗高，或识别精度不够。IBM 开源轻量多模态文档处理模型 Granite - Docling，仅258M参数，性能超 GPT - 4o，适用于多场景。
从RLHF、PPO到GRPO再训练推理模型，这是你需要的强化学习入门指南
强化学习是当今LLM重要技术，Unsloth团队发布教程，从吃豆人谈起，介绍RLHF、PPO到GRPO，分享用GRPO训练推理模型技巧，涵盖相关概念、训练方法及奖励函数设计等内容。
Kimi K2 Thinking突袭！智能体&推理能力超GPT-5，网友：再次缩小开源闭源差距
Kimi K2 Thinking发布并开源，主打“模型即Agent”，能边思考边用工具，连续工具调用200 - 300次。在多评测基准超GPT - 5等闭源模型，代码权重遵循MIT协议，可在官网和应用实测。
华人学生立大功！新王Mamba-3直击Transformer死穴，推理效率碾压7倍
新一代开源架构Mamba-3发布，由CMU普林斯顿原班人马打造，15亿参数性能比Transformer高4%，长序列任务端到端延迟仅为其七分之一。它采用新设计哲学，推理优先，有三大核心技术，还能与自注意力层混合提升检索能力。
刚刚，OpenAI最强推理模型o3-pro诞生！碾压Gemini 2.5 Pro击穿底价
OpenAI昨夜官宣上线最强推理模型o3 - pro，还将o3价格暴降80%。o3 - pro专为深度思考和提供超可靠答案而生，在多项测试中表现优异，虽有速度慢等限制，但优势明显，网友实测效果惊艳。
语义分割别无脑用Argmax！港中文新算法：三行代码，推理速度提升10倍
香港中文大学提出全新算法框架RankSEG提升语义分割性能。传统方法用threshold或argmax生成掩码并非最优，RankSEG无需重训模型，加三行代码就能提高分割指标，还开源了工具包，其改进版RankSEG - RMA推理速度大幅提升。
GPT-5难产内幕曝光！核心团队遭挖空，推理魔咒难破，靠英伟达续命
外媒The Information曝出GPT-5诞生内幕，其未取得技术突破，OpenAI面临数据瓶颈与技术难题，核心研究者被撬导致组织架构混乱。不过，OpenAI获巨额融资，推理模型成突破口，还在开发“通用验证器”。