「预训练策略」共找到 2851 篇相关文章
小米MiMo-V2-Flash开源：3090亿参数大模型能否改写AI行业规则!
2025年12月16日小米开源旗舰大模型MiMo - V2 - Flash，参数3090亿。它有独创‘按需激活’机制，推理成本低。采用MIT协议，价格亲民，构建全栈开源矩阵，在编程、长文本处理等领域表现出色。
透视Chiplet生态版图
随着摩尔定律逼近极限与AI算力需求爆发，集成电路产业从“单芯演进”迈向“系统集成”，Chiplet技术成关键。此报告剖析欧美政府项目战略及国际巨头的竞争态势，还探讨中国企业突围之路。
10人创业团干翻行业“潜规则”！全员必须会AI、让跑大模型全程“裸奔”，谷歌老兵不烧钱创业
在AI创业浪潮中，谷歌老兵Bryan Zhou带领10人团队创立AnyInt平台。该平台定位AI Infra中间件，一个API对接所有模型，提倡“去中心化”，让用户付费，还在工程、安全等多方面优化，吸引开发者付费。
LlamaIndex 深度实战：用《长安的荔枝》学会构建智能问答系统
文章兼顾 RAG 科普与 LlamaIndex 实战。介绍 RAG 原理，用《长安的荔枝》讲解关键步骤和参数。实战部分展示用 LlamaIndex 搭建问答系统，代码量少。优化篇通过实验给出参数调优建议，架构篇剖析内部机制，最后提及 Agent 化拓展功能。
后生可畏！何恺明团队新成果发布，共一清华姚班大二在读
何恺明团队继5月提出MeanFlow (MF) 后，近日推出改进版Improved MeanFlow (iMF)，解决了原始MF三大核心问题。它重构预测函数，还实现灵活的无分类器指导和高效的上下文内条件作用架构，提升了实用性和效率。
单卡跑出集群效率！Hugging Face TRL 与 RapidFire AI 的超并行革命
Hugging Face宣布其核心微调库TRL集成RapidFire AI，重构大模型后训练阶段工作流。RapidFire引入超并行实验引擎，提升实验验证速度，解决算力受限团队的调参难题，带来效能质变。
马斯克抢先谷歌一步放大招，Grok 4.1登顶LMArena，创意写作直逼GPT-5.1
谷歌Gemini 3将上线消息正热时，马斯克旗下xAI的Grok 4.1凌晨上线。它有两个“形态”，免费开放且有APP版。在LMArena测试中表现优异，事实稳定性、情商、创意写作等能力提升，实测也有不错表现。
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在 AICon 2025 北京站的分享，结合算法实践展示 RL 系统现状及发展脉络，探讨未来超大规模 RL 发展方向，涉及理论基础、业界实践、开源生态及社区共建。
打破数据质量鸿沟！清华腾讯Bee项目发布1500万高质量数据集，刷新MLLM全栈开源SOTA
全开源多模态大模型性能被闭源和半开源模型“卡脖子”，根源在于数据质量。清华与腾讯混元团队推出Bee项目，有三大核心贡献，产出的Bee - 8B模型表现领先，证明保证数据质量比堆量更有效。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。