「预训练时代」共找到 3269 篇相关文章
阿里Qwen3技术报告核心要点解读！
阿里Qwen3技术报告发布，披露模型架构、预训练及后训练等技术细节。其有密集与混合专家两种模型架构，预训练数据量和语种增多，后训练采用强到弱蒸馏提升性能，各模型表现优异。
Meta没做的，英伟达做了！全新架构吞吐量狂飙6倍，20万亿Token训练
英伟达发布全新架构9B模型NVIDIA Nemotron Nano 2，以Mamba - Transformer混合架构实现推理吞吐量最高提升6倍，对标Qwen3 - 8B并在多任务中表现持平或更优，还开源模型及大部分预训练数据。
冷门新语言AI写不动？IEEE论文：从零到及格线，MoonBit给出完整训练路线
IEEE论文聚焦新语言MoonBit和Gleam，探讨大模型代码生成能力。研究发现大模型零样本生成新语言代码能力差，few - shot和RAG有提升但有限，继续预训练及指令迁移可显著提高模型表现。
DeepSeek-V3.1震撼发布，全球开源编程登顶！R1/V3首度合体，训练量暴增10倍
DeepSeek正式上线DeepSeek-V3.1，作为首款「混合推理」模型，将开启智能体新时代。它参数共671B，具强大智能体能力，编程击败Claude 4，训练量大幅扩增，在多方面测试表现出色，稳坐编程开源第一王座。
一键式训练端到端Agent，Qwen3+MCP工具集高效集成！
RLFactory是开源的端到端RL后训练框架，将环境与训练解耦，用Qwen3基座调用MCP工具集，可低代码训练端到端Agent模型。它极致易用、训练高效，还支持一键式训练，未来会更易用高效。
OpenAI董事长Bret Taylor：2010 年的 SaaS 应用，就是 2030 年的智能体公司
OpenAI董事长Bret Taylor在对话中称，当下处于“加10倍速的互联网泡沫”时代，AI为初创公司带来挑战巨头的机会。他直言多数B2B公司“以客户为中心”是胡扯，还为AI创业者划红线，如应用公司预训练模型是烧钱。
MOE RL实战：统一FP8全流程训练
SGLang RL团队等联合完成工作，实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等，指出训练难点，分析KL Loss异常归因，验证其在MoE模型RL应用效果，还探究模型规模对训推不一致性的影响。
AI步入“自我进化”时代，李彦宏首提AI时代度量衡“DAA”
5月13 - 14日Create2026百度AI开发者大会上，李彦宏首提AI时代度量衡DAA，预测全球DAA超100亿，提出‘AI时代进化论’。百度发布和升级多款智能体产品，智能云也升级，还升级底层能力。
模型、代码、数据全开源！轻松训练自己的垂类Agent！
Together AI联合Agentica推出`DeepSWE-Preview`，基于开源Qwen模型，用RL在SWE - Bench - Verified登顶。团队将模型权重、训练框架等全开源，抛弃SFT纯用RL训练，还分享训练秘籍和TTS技巧，为垂类Agent训练提供新范本。
一个月的活一周干完！英伟达世界模型训练速度飙升400%
英伟达世界动作模型 DreamZero 训练成本高、耗时长，无问芯穹与清华等推出的 RLinf 框架，从算子融合到 I/O 全链路系统级重构，使训练吞吐拉高近 4 倍，还解决多类性能瓶颈，保证训练效果。