搜索：大语言模型推理

「大语言模型推理」共找到 8238 篇相关文章

RL特训出「押题大师」？破解模型微调中的多样性危机与灾难性遗忘

近年来，基于可验证奖励的强化学习（RLVR）成为提升大语言模型推理能力的重要路径，但许多经RL微调的模型出现‘越训越单一’问题。复旦大学等团队聚焦长期被忽视的KL散度项，提出DPH - RL方法，可缓解多样性坍塌。

当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。

德州农工大学博士生李港在NeurIPS25高分论文中，分析GRPO优化目标，发现难度偏差局限及与判别式监督学习联系，提出DisCO框架强化大型推理模型，其优势显著，实验表现优于GRPO及其变体。

微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。

Qwen全新非思考模型Qwen3-30B-A3B-Instruct-2507上线，仅激活3B参数，性能媲美顶尖闭源模型。相比前代，推理、对齐和长文本处理能力大幅提升，在通用能力上也全面进步，适合复杂人机交互应用。

UC Berkeley团队提出新训练方法Intuitor，大模型无需接触真实答案，仅优化自身信心就能学会复杂推理。该方法无需外部奖励信号或标注数据，用模型自身置信程度作内在奖励信号，在多任务表现良好。

用强化学习让LLM具备推理能力耗费颇高，计算量会二次级增长。Mila和微软研究院等团队提出马尔可夫式思考机，重构强化学习形式，让计算量呈线性，实验效果显著，还能与先进模型兼容。

AI 时代处理结构化数据成痛点，LLM 大模型难以满足生产要求。清华大学与稳准智能联合发布的 LimiX 系列模型，做到真正通用，在跑分和实际落地表现出色，其轻量级版本 LimiX - 2M 适合边缘设备和科研场景。

OpenAI将推旗舰模型GPT - 6（内部代号Astra），采用“循环深度”新技术，能榨出14倍参数潜能，降低成本，但会使AI推理过程不可读，加重安全担忧。OpenAI已因该模型“能力过强”踩刹车。

李飞飞在人工智能聚焦语言模型时关注空间智能。她指出当前AI局限，亲自撰文阐述构想。构建具空间智能的世界模型挑战大，但应用潜力大，如创意、机器人、科研医疗教育等领域，能赋能人类。