「LLM训练」共找到 2865 篇相关文章
盘一盘，2017年Transformer之后，LLM领域的重要论文
本文梳理2017年Transformer后LLM领域重要论文。如提出Transformer架构的论文成现代AI基石；介绍GPT - 3的论文确立‘大模型 + 大数据’缩放定律，引领LLM军备竞赛等。还列举各论文内容与影响。
谷歌 Apigee 添加了内置的 LLM 治理 Model Armor
谷歌云推出 Model Armor 公开预览版，这是集成到 Apigee API 管理平台的 LLM 治理框架。它能执行特定策略，检测多种风险，支持多 LLM 提供商，还与 GKE 和 Security Command Center 集成。
LLM 的记忆问题「很快」就不再是问题了？
当前智能体范式转变，AI Memory 成核心基石，分化为「Agent Memory」与「LLM Memory」。开源项目 OpenClaw 引发热议，其「长效记忆」让 AI 记忆问题形成边界，不过 LLM Memory 仍面临挑战。
Ultralytics & lightly-train：简化计算机视觉模型训练，无需标签
在计算机视觉领域，获取带标签数据成本高、耗时长。开源项目 lightly-train 用未标记图像和视频自监督预训练，减少标注成本与时间，可集成到现有训练管道，支持多种模型架构和应用场景。
MoE RL 实战：统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样，消除训推不一致性。介绍 FP8 硬件基础、格式等，分析训练难点，定位 KL Loss 异常源于量化原理，验证其在 MoE 模型 RL 场景优势，指出模型规模与训推不一致的关联。
1万亿参数Ling-1T开源，国产LLM牛了~
Ling-1T是Ling 2.0系列首款旗舰“非思维”模型，总参数量达1万亿。预训练数据超20万亿token，支持128K上下文长度。在多项任务中表现出色，是目前已知最大的FP8训练基座模型，已完成全面评测。
庞若鸣还有苹果论文？改善预训练高质量数据枯竭困境
苹果基础模型原负责人庞若鸣在 Meta 任职期间，其在苹果参与的高价值研究仍不断发表。研究团队针对大模型训练中高质量数据枯竭问题，提出 Synthetic Bootstrapped Pretraining (SBP) 预训练流程，提升模型性能。
昇腾MindSpeed：分布式训练加速库的创新实践与突破
在2025年QCon全球软件开发大会上，华为工程师郑加利分享昇腾MindSpeed分布式训练加速库。它在计算、通信、显存等多维度优化，提升训练效率，还介绍业界加速库及MindSpeed架构，阐述多种优化策略。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
OpenAI公开大规模稳定训练的秘密，英伟达AMD英特尔都受益
OpenAI通过OCP开放超大规模AI训练用的网络协议MRC，它能确保大规模训练环境下网络通信稳定。该协议由OpenAI联合英伟达等厂商花两年完成，从拓扑、传输、路由维度保障网络可靠性。