搜索：语言模型微调

「语言模型微调」共找到 7906 篇相关文章

Qwen&清华团队颠覆常识：大模型强化学习仅用20%关键token，比用全部token训练还好

Qwen与清华LeapLab团队研究发现，大模型强化学习训练推理能力时，仅20%高熵token就能撑起效果，甚至超全部token训练。团队用此在Qwen3-32B创造新SOTA记录，还探讨了强化学习的相关特性。

亚利桑那州立大学论文《大语言模型的思维链推理是海市蜃楼吗？》认为思维链推理在数据分布偏移时易出错，可能只是对训练数据模式的记忆。作者 Sean Goedecke 认为该论文结论不合理，从推理与语言、模型规模等方面提出反对意见。

当下世界模型是AI领域热门且混乱的概念，主流路线有四类。Momenta的R7世界模型已量产，其CEO定位公司为物理AI基座模型构建者。Momenta率先冲刺IPO，商业模式正转型，为后续玩家提供价值评估体系。

随着大模型发展，全参数微调成本高，参数高效微调（PEFT）成主流。常见基于矩阵低秩分解的PEFT方法有局限，张量化PEFT虽有优势但存在权重重建问题。本文提出ReFTA方法解决该问题，有工程和理论优势。

近年大语言模型在推理任务能力惊人，但使用外部工具存挑战。传统SFT无法让模型自主调用工具，强化学习虽被引入，但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习，提出有效方法。

近日，蚂蚁集团联合浙江省卫生健康委开源自研的蚂蚁·安诊儿医疗大模型。它基于蚂蚁百灵大模型架构，经深度训练，是参数规模最大的开源医疗模型。该模型在多评测中表现出色，有三阶段训练流程，架构高效、推理快，已开源助力行业发展。

当Ilya断言大模型未来在于架构创新时，中国团队推出全球首个可大规模落地的开源原生多模态架构NEO。它颠覆传统拼接模式，从根上融合视觉与语言，以简洁架构证明架构聪明才是下一代AI竞争力。

xAI 推出编码助手模型 Grok Code Fast 1，采用新架构，有强大全栈开发能力。价格低，在性能与成本间取得平衡。用户评价不一，它在日常开发场景性价比高，与其他竞品各有优势。

Anthropic发布神话模型Claude Mythos Preview却不开放使用，发起玻璃翼计划联合科技巨头用该模型修复全球软件漏洞。此模型能自主发现众多零日漏洞，合作伙伴应用后强调跨行业协作应对网络安全挑战。

阿里通义千问发布Qwen3.5系列四款小模型，采用Gated DeltaNet混合注意力机制。有原生多模态设计，解决“内存墙”问题。在多基准测试中表现出色，开发者反响好，但也存在幻觉级联、调试局限等问题。