「预训练研究」共找到 3687 篇相关文章
AutoResearch-LLM：让 Agent 接手 LLM 训练优化
本文是 LLM 微调 AutoResearch 落地实战。作者将电商场景 Qwen3 微调流水线沉淀成 Agent 驱动的三阶段框架，还分享踩坑经验。思路方法与平台无关，可类比到外部环境，适合关注 AI Coding 等的同学。
ROCK & ROLL！阿里给智能体造了个实战演练场 | 开源
阿里开源新项目ROCK，解决了智能体无法在真实环境中规模化训练的难题。它与阿里此前的RL训练框架ROLL配合，构成完整的智能体训练闭环，推开了Agentic AI规模化应用的大门。
Agent记忆系统：6大核心操作全景解读
自LLM进入Agent时代，记忆模块成研究重点。以往研究有缺憾，作者提出全面AI记忆研究框架，对记忆表示分类，引入六种基本记忆操作，并映射到多方面，还阐述各部分具体方法。
陶哲轩经费被断供，在线发帖自证数学有用
菲尔兹奖得主陶哲轩就职的UCLA科研经费被冻结，个人研究及应用数学研究所IPAM失去资金支持，还遭网友质疑其学术成果价值。他开新帖以“压缩感知”研究为例，力证数学研究回报，并将视野扩展到AI大模型。
用SFT打出RL的效果？微软联合提出高效后训练算法
大模型后训练阶段，SFT 和 RL 各有优劣。微软等联合提出新工作，量化 SFT 和 RL 在数据层面的差距，提出 IDFT 和 Hinted Decoding 等高效后训练技术，实验显示新方法泛化超 SFT、效率超 RL。
DeepSeek陈德里开发自动研究Skill，写一篇论文人类只动脑2小时
DeepSeek研究员陈德里用自己开发的技能DeliAutoResearch等完成研究综述论文。论文提出自动研究智能体L1–L5自主度分类体系，对比四大架构模式，分析17个主流系统，还提出六大开放问题。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
如何为 GPU 提供充足存储：AI 训练中的存储性能与扩展性
文章通过分析 MLPerf Storage v2.0 测试结果，探讨不同存储系统在大规模 AI 训练中的表现。介绍三类训练负载及新的 Checkpointing 负载，分析共享文件系统类别，给出比较视角，解读各负载测试结果并总结选型要点。
Claude MCP封印解除，支持对接网络工具，重磅发布应用集成和深高级研究模式
Anthropic Claude迎来重大更新，包括应用集成和高级研究模式，放开连接限制，可连接常用工具及构建自定义连接，融入工作流程，高级研究模式更智能，新功能已向部分用户开放Beta体验。
清华、北大，上海交大等发布人机协同训练框架，让机器人零样本学会新技能
清华、北大等发布人机协同训练框架MotionTrans，能让机器人零样本学会新技能。它将人类数据翻译成机器人语言，构建数据集，经格式转换、速度调整等处理后训练模型，实验验证其有效性，且数据、代码和模型已开源。