「持续预训练」共找到 2574 篇相关文章
AdaGen: 让图像生成模型学会自适应策略
当前主流图像生成模型多步策略依赖手工静态调度规则，存在需大量调参、无法适配样本特性的问题。本文提出AdaGen框架，通过强化学习训练策略网络，在四大生成范式上实现性能提升与效率优化。
神秘霸榜模型现真身：小米MiMo-V2 Pro，国内首个万亿参数+1M上下文，为Agent而生！
小米全新一代面向 Agent 的大模型家族官宣，包括 MiMo-V2-Pro Preview、MiMo-V2-Omni 和 MiMo-V2-TTS。MiMo-V2-Pro 性能优异，在多场景实测表现出色，技术有创新，API 开放且定价低，已融入小米多业务与生态。
智谱发布龙虾基座模型GLM-5-Turbo，还适配了一个养龙虾的盒子
智谱发布专为龙虾场景深度优化的基座模型GLM - 5 - Turbo，从底层训练重塑，增强四项核心能力。发布评测基准ZClawBench，模型表现领先。还推出龙虾套餐和安全管理体系，助力企业实现算力自由与安全管控。
AI下半场的战场，从Agent记忆体正式打响
OpenClaw开源项目爆火，标志AI进入下半场走向真实应用。关键在于解决AI在现实中持续干活的问题，核心是Agent Memory。论文梳理该赛道，指出其是系统级记忆体结构框架，未来关键在memory策略可学习。
大模型的第一性原理：（三）信息论篇
本文从信息论角度解读大模型第一性原理。介绍Shannon信息论，提出将其从以BIT为中心转换为以TOKEN为中心解释大模型底层原理，还阐述大模型各阶段信息论原理、定向信息计算方法，对比Granger与Pearl因果。
ICDE 2026 | 从匹配困境到推理突破：阿里REG4Rec 激活生成式推荐的个性化潜力
阿里国际智能技术团队提出生成式推荐模型 REG4Rec，从表征学习、训练目标和推理策略层面设计，提升推理能力与稳定性。离线实验表现优，已在 Lazada 部署，带来显著商业收益，成果被 ICDE 2026 接收。
捅破具身智能天花板！极佳视界新VLA大模型登场，复杂长时程任务近100%成功率
极佳视界推出GigaBrain-0.5M*VLA大模型，以世界模型条件驱动，引入人在回路持续学习机制。在与主流方法对比中，任务成功率提升30%，长时程任务近100%成功，还具备高效准确的价值预测能力。
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。
OCR又出宠OpenDoc，速度超MinerU6倍
复旦开源的OpenOCR是面向通用OCR任务的开源平台，其OpenDoc是超轻量文档解析系统。它采用Pipeline模式，两阶段解析不易放大误差。UniRec - 0.1B有独特架构与分层监督训练等创新技术。
Z-Image标准版开源：更具可塑性的图像生成全能基座
Z-Image标准版开源，它是为开发者准备的强大画板，解决了生成模型同质化问题。其保留完整权重，在微调、风格化上潜力大，采用创新架构，训练定位SFT阶段，有完整CFG支持，还提供完善工具链。