「后训练方案」共找到 4390 篇相关文章
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
借助 AI Coding 快速打造 AI Agent 系统
文章围绕购物场景生成AI Agent系统展开，原有低代码方案遇瓶颈，团队转向LangGraph等工程方案，借助AI Coding工具重构上线。介绍了项目需求、挑战，阐述核心架构升级，分享AI Coding开发实践及项目成果与启示。
Manus被收购前最后一次访谈：季逸超还不知道Meta即将来敲门
这是Manus被收购前，联合创始人季逸超的访谈。他回顾从猛犸浏览器到Manus的创业路，谈GPT - 3冲击，还评价搭档肖弘。访谈后不久，Meta宣布全资收购Manus。
一文全解析：AI 智能体 8 种常见的记忆（Memory）策略与技术实现
本文剖析8种常见AI记忆方案，如全量记忆、滑动窗口等，分析其原理、特点和适用场景，还给出模拟代码助理解。不同策略各有优劣，适用不同对话场景，能为项目评估、选择和实现Memory方案提供参考。
建模世界偏好：偏好建模中的Scaling Laws
研究首次揭示人类偏好建模遵循Scaling Law，从论坛收集数据在Qwen 2.5模型训练，发现测试损失随训练规模指数增长线性下降。提出建模世界偏好，论文和模型已开源，还探讨了偏好建模可扩展性等问题。
缺数据也能拿SOTA？清华&上海AI Lab破解机器人RL两大瓶颈
现有机器人视觉 - 语言 - 动作（VLA）模型训练范式存在数据采集成本高、泛化能力不足等问题。清华和上海AI Lab团队提出SimpleVLA-RL，解决了VLA模型训练的核心瓶颈，在多基准测试中实现SoTA性能。
机器人的「GPT时刻」来了？丰田研究院悄悄做了一场最严谨的VLA验证实验
丰田研究院（TRI）团队研究大型行为模型（LBM），在近1700小时机器人数据上训练并大量部署评估。发现LBM性能提升显著，预训练小数据量也能带来增益，预示机器人通用大模型或到来。
ROLL：面向大规模语言模型的高效强化学习框架
本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。