「混合微调」共找到 508 篇相关文章
CVPR 2026 | ReFTA：打破张量化PEFT的「权重重建」瓶颈
随着大模型发展，全参数微调成本高，参数高效微调（PEFT）成主流。常见基于矩阵低秩分解的PEFT方法有局限，张量化PEFT虽有优势但存在权重重建问题。本文提出ReFTA方法解决该问题，有工程和理论优势。
CUTLASS 笔记 (2)：混合精度 GEMM kernel
文章介绍实现支持不同精度的 GEMM 算子，解析精度转换技术细节，还介绍根据 PTX 文档实现自定义 FP8 精度的 GEMM kernel，包括揭开 MMA Atom 面纱、分析 TV 与 MN Layout 等，最后完成精度验证。
斯坦福新论文：微调已死，自主上下文当立
斯坦福大学等机构研究人员新论文指出，依靠上下文工程，无需调整权重，模型也能变聪明。他们提出智能体上下文工程ACE，不依赖模型重训，让上下文自主进化，在多场景测试中表现优于多种方法。
SQL玩转多模态AI，轻松搞定图片+文本混合搜索
在AI驱动智能商业时代，传统搜索系统难满足需求，AI检索系统又面临数据搬运和工具链割裂难题。本文提出用原生SQL实现多模态智能检索，基于PolarDB融合AI引擎，通过SQL调用服务，无需迁移数据与搭建独立服务。
Cursor滑跪开源技术报告：Kimi基模这样微调能干翻Claude
Cursor放出Composer 2技术报告力证‘自研’，基于Kimi K2.5经持续预训练和异步强化学习，测试表现好。同时，杨植麟分享Kimi团队最新思考，认为大模型要规模化，断言大模型训练进入第三阶段。
0.016%参数撬动18%性能：关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术，传统PEFT方法需修改大量参数，新兴ReFT虽只需调整少量参数，但存在不足。本文提出CRFT，仅用0.016%参数量就提升性能，为轻量化推理增强开辟新路径。
不上云、不租卡，如何优雅地在本地微调Qwen-VL-30B？
文章指出企业训练多模态助手，30B 参数的开源多模态模型如 Qwen-VL-30B 是不错选择，但多模态场景下显存需求大。联想 ThinkStation PGX 解决了显存难题，还介绍其性能、优势、适用场景及服务等。
Thinking Machines曝LoRA终极指南：10倍学习率，媲美全参微调
Thinking Machines推出论文《LoRA Without Regret》，研究LoRA与FullFT达到相近表现的条件。通过实验发现，把握关键细节，LoRA可与FullFT性能相当，还探讨了关键因素、批大小效应等内容。
Qwen3技术报告首次全公开！“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告，介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式，引入思考预算机制，降低轻量级模型计算资源，在多基准测试领先，多语言支持扩展至119种，所有模型开源。
不踩点不微调！Figure最新模型盲测30个家庭：首次实现零样本全身泛化
人形机器人公司Figure发布最新端到端具身模型Helix 2.5，在30套未采集训练数据的陌生住宅开展全盲家务测试，验证Index预训练可让模型实现零样本全身泛化，整体成功率56%，远高于对照组的9%，证明人形机器人跨场景迁移的工程可行性。