「参数高效微调」共找到 1419 篇相关文章
奖励模型也能Scaling！上海AI Lab突破强化学习短板，提出策略判别学习新范式
上海人工智能实验室提出策略判别学习（POLAR）新范式，解决奖励模型设计与训练瓶颈。POLAR可灵活适配多样需求，弥补传统奖励模型短板，契合强化微调框架，实验证明其性能和泛化性优越。
独家 | 华为天才少年楼燚航离职创业，要做 200B 以上的「具身大脑」
前华为“天才少年”楼燚航离职创立引力蓝移，定位构建具身大脑。其采用分层架构，认为具身智能Scaling拐点已至，规划了数据来源和模型参数规模。正与汇川合作，按24个月规划推进，面临产品验证挑战。
微软、哈佛开源创新优化器：全面超越Muon，提升大模型训练效率
随着大模型训练所需计算资源爆炸式增长，微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区，避免分布式训练同步完整梯度，在集中式和分布式场景都有高效表现，性能超Muon。
如何做到在手机上实时跑3D真人数字人？MNN-TaoAvatar开源了！
阿里巴巴淘宝Meta技术团队研发的TaoAvatar技术，能在手机或XR设备实现3D数字人实时渲染与AI对话。今日开源MNN - TaoAvatar应用，可在手机运行，对比主流方案更高效便捷，还介绍其优势、技术及使用说明。
AMS| 西工大史子颉，高传强，王旭，林海涛，张伟伟：数据驱动的涡激振动标度律发现
涡激振动最大振幅是评估结构安全的关键指标，现有理论模型有局限，常用数据驱动方法也面临挑战。本文提出两次应用符号回归的“白箱”标度参数VIV建模方法，验证了其鲁棒性与泛化能力，还给出物理层面解释。
马斯克的底裤要被扒光了！超级爆料一个多小时， xAI 工程师被火速解雇
xAI工程师Sulaiman Ghori在播客爆料公司情况后被解雇。他称xAI做事高效，几乎无官僚流程，马斯克愿接受被证错。还透露公司利用闲置特斯拉汽车驱动AI代理等计划，以及马斯克解决问题、推进项目的方式。
Qwen全面升级非思考模型，3B激活、256K长文、性能直逼GPT-4o
Qwen全新非思考模型Qwen3-30B-A3B-Instruct-2507上线，仅激活3B参数，性能媲美顶尖闭源模型。相比前代，推理、对齐和长文本处理能力大幅提升，在通用能力上也全面进步，适合复杂人机交互应用。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
DeepSeek终于丢了开源第一王座，但继任者依然来自中国
几千人盲投中，Kimi K2超越DeepSeek成全球开源第一，总榜第五紧追顶尖闭源模型。虽有人质疑其采用DeepSeek V3架构，但团队称有参数调整。当下开源模型崛起，正打破性能弱的刻板印象。