「微调训练」共找到 2293 篇相关文章
传统训练效率很低？我们靠 “给模型降噪” 重新审视长上下文建模难题
文章指出长上下文模型处理长文本时易受噪声干扰，提出新评估指标IG分数和“上下文去噪训练（CDT）”方法。实验表明CDT优于现有策略，经其训练的开源模型在长上下文任务中性能媲美GPT - 4o。
「上下文学习」之后，腾讯混元第二篇公开研究：精准定位RLVR训练崩溃的“罪魁祸首”Token
腾讯混元团队新研究提出异常梯度定位器 GradLoc，可将全局梯度突刺定位到具体异常 token，降低 RLVR 训练观测与分析门槛，助力解决训练不稳定问题，让模型调优更科学。
训练成本暴降99%，35秒出1分钟高清视频！英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构，其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署，重新定义AI视频生成效率极限。
Kimi K2官方技术报告出炉：采用384个专家，训练不靠刷题靠“用自己的话再讲一遍”
Kimi K2官方技术报告公开称霸全球开源模型的秘籍，介绍其训练过程及“秘密配方”，包括MuonClip优化器、大规模Agentic Tool Use数据合成等技术亮点，还提及后阿里通义Qwen3更新击败Kimi K2。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
2张4090竟能本地微调万亿参数Kimi K2！趋境联合清华北航把算力门槛击穿了
仅需2 - 4张消费级显卡（4090），就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动，大幅降低成本，开启AI个性化定制时代。
完全开源的7B模型，性能比肩主流LLM，训练成本仅16万美元，复现DeepSeek的强化学习！
Moxin-7B由多机构团队联合开发，遵循“开源科学”原则，公开全流程细节。它训练成本仅16万美元，评测表现亮眼，在架构、数据策略、训练过程等方面有创新，为中小企业提供可控AI方案。
剑指“美国版 DeepSeek！”Ai2 科学家 Nathan Lambert 最新访谈：剖析 RLVR、激辩智能体与后训练
艾伦人工智能研究所科学家 Nathan Lambert 在访谈中剖析 RLVR、激辩智能体与后训练。他所在团队用 Olmo 和 Tulu 模型揭开后训练魔法，带火 RLVR 概念。他还谈到开源 AI 未来，想打造“美国版 DeepSeek”。
亿级短视频数据突破具身智能Scaling Law！Being-H0提出VLA训练新范式
真机数据匮乏使具身智能VLA模型发展受限，现有真机数据与所需上亿级训练样本相差甚远。BeingBeyond团队提出创新性方案，利用人类视频手部数据构建数据集，训练出VLA模型Being - H0，经实验验证效果良好。
卡帕西8000行代码手搓ChatGPT，成本仅100美元，训练12小时CORE表现超越GPT-2，手把手教程来了
AI大神Andrej Karpathy新作nanochat，用8000行代码、100美元成本纯手搓克隆ChatGPT。它是极简全栈训练/推理pipeline，训练12小时，CORE表现超GPT - 2，还给出快速上手详细指南。