「模型训练」共找到 8077 篇相关文章
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
大模型七连发，外国人馋透了！阿里云栖大会全栈升级够狠
阿里在2025云栖大会全栈升级，发布七款通义新模型，从基础大模型到各专项领域全覆盖。旗舰模型Qwen3 - Max性能超GPT - 5等，新架构Qwen3 - Next实现效率突破，多模型开源且表现出色。
快手Klear-Reasoner登顶8B模型榜首，GPPO算法双效强化稳定性与探索能力！
快手Klear团队推出Klear-Reasoner模型，基于Qwen3 - 8B - Base打造，在多基准测试达同规模SOTA。其核心GPPO算法能强化稳定性与探索能力，团队还对训练流程多环节深入分析，给出优化策略。
AST| 西工大单湘淋、张伟伟等：基于湍流各向异性分析与符号回归的改进型二阶非线性涡粘模型
针对非线性涡粘模型各向异性建模难题，西工大单湘淋、张伟伟等通过雷诺应力各向异性分析方法开展特征提取，构建新型二阶非线性涡粘模型，在方形管道与矩形扩压器湍流测试中，精度优于现有模型。
不只是DeepSeek V4，还有个万亿级大模型，训推全程国产芯片
2026年4月24日，DeepSeek发布新一代模型DeepSeek - V4系列预览版并开源。同日，美团用全国产算力集群训练出万亿参数大模型LongCat - 2.0系列预览版，训推全流程摆脱英伟达，在国产算力支撑万亿级模型研发上取得突破。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。
里程碑！逻辑智能发布全球首个完全开源语音大模型框架LLaSO，语音AI迎来新纪元
逻辑智能发布全球首个完全开源语音大模型框架LLaSO，它像“全家桶”，提供高质量数据、统一评测基准和强大基础模型。语音大模型发展遇瓶颈，LLaSO框架及参考模型LLaSO - Base有望打破僵局。
阿里通义发布并行计算新策略：1.6B等效4.4B，内存消耗骤降95%
阿里通义团队提出PARSCALE并行计算新策略，受CFG双路径推理机制启发，将并行思想扩展到训练和推理全流程。能让1.6B模型性能接近4.4B模型，内存占用大降，还可用于现有模型，无需从头训练。
Anthropic宣布练出神话级模型：Claude Mythos，代码和黑客能力吊打opus4.6，不向公众开放！
Anthropic宣布Project Glasswing计划，因训练出超强模型Claude Mythos Preview。该模型代码和推理能力超opus 4.6，扫描主流软件发现数千零日漏洞。此模型不向公众开放，计划先在Claude Opus验证安全机制。