搜索：模型训练与微调

「模型训练与微调」共找到 8113 篇相关文章

AI 本地跑？Google 新开源模型上线，本地量化后占用不到 200MB 内存，支持百余语言

Google DeepMind推出开源嵌入模型EmbeddingGemma，专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练，提升效率。在MTEB测试中成绩佳，支持百余种语言，内存占用少，已集成多种工具。

MetaGPT等机构团队发布CARE框架，可让LLM将推理上下文与自身检索能力结合，已全面开源。它提出原生检索增强推理范式，采用两阶段训练策略，在问答基准实验中表现出色，为解决模型问题提供新路径。

马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。

北大王选所彭宇新团队在论文中提出TARA方法，引入生物分类学知识与多模态模型中间表征对齐。实验显示，TARA能提升模型层级识别和未知类别识别能力，还可加速训练收敛，计算开销小。

Thinking Machines Lab推出首款产品「Tinker」，这是专为语言模型微调而生的API，让开发者摆脱底层架构束缚，用简单Python代码专注创新。它功能强大，目前免费私测，已获普林斯顿、斯坦福等团队使用。

5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。

STReasoner是首个结合时间序列、空间结构和自然语言的推理模型，能识别异常源、追踪影响路径。研究团队构建数据生成框架和评测基准，采用三阶段训练策略，模型在多任务表现优，成本低且泛化能力强。

360人工智能研究院发布 FG - CLIP 模型，攻克图文细粒度对齐难题，成果被 ICML 2025 接收并开源。它采用双阶段训练等策略，在多任务评测中超越对比模型，推动跨模态研究产业化落地。

近年来，基于流匹配的VLA模型成机器人领域前沿技术，但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL，提出两种微调方案，在测试平台验证了有效性，目前代码等已开源。

清华大学与生数科技联合研发Vidar模型，首次让通用视频大模型长出‘手脚’，实现从虚拟到真实世界物理执行的跨越。它降低数据门槛，突破跨本体泛化困境，为服务机器人应用奠定基础。