搜索：大模型预训练

「大模型预训练」共找到 9475 篇相关文章

全球开源大模型，前十五名全是中国的

近日，随着新一代大语言模型更新，开源大模型成热门话题。Design Arena排行榜上，若设定为“开源”，前15名均为国产开源大模型，排名第一的是DeepSeek - R1 - 0528 ，智谱、阿里等厂商多款模型上榜。

华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。

文章介绍从零训练ChatGPT级别大模型的全流程、高昂成本，指出这对多数企业不现实。建议企业战略从构建转向应用，通过租用API或微调开源模型利用大模型，将专有数据视为核心资产。

InfoQ研究中心联合中欧AI与管理创新研究中心发布《中国大模型落地应用研究报告2025》，从驱动因素、C端产品现状到B端落地现状，勾勒大模型应用转折期的图景，分析应用难的原因及各端现状。

ICML2026 论文指出，大语言模型内部会自然形成类似人类心理学模型的「情绪树」，模型越大，情绪树越复杂，且在销售等任务上表现更好。同时，模型的情绪结构受身份设定影响，存在与人类相似的情绪识别偏见。

本文深度解析腾讯混元最新发布的 SEAT 自适应并行扩展推理框架。它让大模型 CoT 升级，应对复杂推理任务。该框架通过多轮并行推理和语义熵导航，解决大模型深度思考的局限，且适配多种大模型，性价比高。

极佳视界具身大模型 GigaBrain-0.5M*依托世界模型实现自我进化，在多真实任务近 100% 成功，超 π*0.6 成 SOTA。其提出基于世界模型的强化学习范式，用超万小时数据训练，推动通用具身智能发展。

北大联合南科大团队提出全新 3D 位置嵌入方法 QuatRoPE，改善大语言模型 3D 空间推理痛点。还提出 IGRE 降低干扰，构建 ASR 基准评估能力。研究被 CVPR 2026 接收，代码与模型已开源。

阿里云通义点金团队与苏州大学合作推出DianJin-R1金融领域推理大模型，介绍其开源数据集与模型、基于通义点金平台的数据合成，展示了其在性能测试中的优异表现，推动金融科技智能化进程。

今天凌晨微软官网分享三大创新算法，即rStar - Math、LIPS、CPL，可助大模型突破推理瓶颈，增强数学推理和思考链能力，还介绍了各算法原理、优势及对应论文地址。