搜索：关键表征微调

「关键表征微调」共找到 1363 篇相关文章

大模型刷数学题竟有害？CMU评估20+模型指出训练陷阱

CMU团队评估20多个大模型，发现只有强化学习（RL）训练的模型能将数学推理技能广泛迁移到其他任务，监督微调（SFT）训练的模型迁移有限甚至无迁移。研究还探索差异原因，表明RL微调更具优势。

当下多模态大模型微调多「照搬」单模态微调策略，忽视模态差异。中国人民大学和上海人工智能实验室团队提出 MokA 方法，兼顾单模态与跨模态建模，在多基座、多场景实验中显著提升性能。

最近‘别再一句句给Agent写提示词，去写循环’说法火了。虽循环代码简单，但关键在模型周围。循环工程有四大难点，角色也从操纵Agent变为设计系统，不过此说法也有反对声。

哈萨克斯坦团队论文对比CNN和用LoRA微调的VLM在乳腺癌病理分类上的表现。指出VLM微调后接近CNN水平，但CNN仍是王者。还介绍LoRA原理、实验设计、结果，给出实战代码及对从业者和研究者的启示。

阿里通义千问团队发布Qwen3.5系列小模型，打破“大模型=高成本”惯例。本文全面剖析该系列模型，涵盖核心特性、本地部署实战、模型微调实战，还给出技术细节与问题解决办法。

今日凌晨阿里开源Qwen3-Embedding和Qwen3-Reranker两款新模型，专为文本表征等任务设计，支持119种语言。测试显示其性能出色，在多语言文本表征和排序任务中超越众多模型，还采用了多种创新设计与训练方法。

近年来，基于流匹配的VLA模型成机器人领域前沿技术，但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL，提出两种微调方案，在测试平台验证了有效性，目前代码等已开源。

基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。

新一年秋招季，岗位对AI能力要求提升。OpenAI发布新开源大模型GPT - OSS，博主Lorentz Yeung开源本地部署和微调训练GPT - OSS的教程，助零基础者上手，还介绍环境搭建、代码和训练前后效果对比。

多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。