「四段式预训练」共找到 2348 篇相关文章
金融AI武道大会开赛！四道业务真题，出题人：猜不到最优解
AFAC2026金融智能创新大赛开赛，赛题源于真实金融场景，如识别交易行为、还原金融文档等。它强调回归基础研究，探索模型产业价值，是今年金融AI领域值得关注的比赛。
碾压π0.5，复旦团队首创「世界模型+具身训练+强化学习」闭环框架
复旦团队针对当前 VLA 策略依赖模仿学习、真实机器人在线 RL 成本高、传统物理仿真器有局限等问题，提出 ProphRL 框架。该框架以世界模型 Prophet 为核心，结合 RL 算法，为具身智能落地提供更可行路径，实验效果显著。
企业级 AI Agent规模化落地的避坑指南，就藏在这四大趋势里
2025 年被视为企业级 Al Agent 落地拐点，“价值导向型”采购兴起，RaaS 正压过传统 SaaS。文章介绍 MCP、GraphRAG、AgentDevOps、RaaS 四大趋势，给出工程化解法，还展示金融、招聘等场景案例及落地自检清单。
突破Agent长程推理效率瓶颈！MIT&新加坡国立联合推出强化学习新训练方法
AI Agent处理复杂任务时显存、算力问题凸显，MIT和新加坡国立大学联合提出MEM1框架。它基于强化学习，让智能体学会管理记忆，实现近似常量级显存开销，在多方面表现超越大模型。
AI自我训练？OpenAI研究员Jason Wei泼冷水：它的三大瓶颈你根本想不到
OpenAI研究员Jason Wei认为AI自我完善是未来趋势，但不会‘瞬间爆发’，而是漫长过程。他从三方面阐述，包括自我完善非一蹴而就、不同领域完善难度有差异、科学进步受真实世界实验限制。
清华刘知远团队：高质量LLM训练数据获取新方法！成本降90%，性能大提升
清华刘知远团队论文提出全新数据筛选方案，解决传统数据筛选验证慢、主观性强问题。发明‘半成品加工法’降成本，用fastText筛数据，筛出Ultra - FineWeb数据集，提升模型性能，还计划拓展到专业领域。
Claude1.7万字系统提示词全网刷屏！Karpathy锐评：LLM训练缺乏关键范式
Claude近1.7万字系统提示词在GitHub泄露，网友称是提示技术的金矿。大神卡帕西提出系统提示学习新范式，模拟人类经验积累，让LLM有‘记忆’功能，引发网友激烈讨论。
大模型"温故而知新"实现了！无需历史数据，Octopus 效果超越全数据训练｜CVPR‘26 Octopus
上海交通大学与vivo团队提出全新持续学习框架Octopus，首创无需历史数据的梯度正交化技术。实验显示，它在UCIT基准上表现超SOTA方法，还实现正向后向迁移，适合端侧部署。
省下1.25倍算力！Kimi这篇论文，可能改写所有大模型的训练方式
大模型层数增多时，残差连接存在PreNorm稀释问题，导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案，还给出工程解法Block AttnRes，实验显示能省算力且提升效果。
Meta详细阐述基于LLM级训练、混合并行计算与知识迁移的GEM广告模型
Meta发布生成式广告模型GEM详细信息，旨在改善平台广告推荐能力。它处理海量用户 - 广告交互数据，用三种方法构建系统，还实施GPU级优化，采用两种知识迁移策略，获业内人士认可。