搜索：大模型推理训练

「大模型推理训练」共找到 8410 篇相关文章

扎克伯格发文正式告别“默认开源”！网友：只剩中国 DeepSeek、通义和 Mistral 还在撑场面

Meta 首席执行官扎克伯格分享“个人超级智能”愿景，透露公司调整 AI 模型发布策略。此前 Meta 强调开源优势，如今态度转变，巨额投入后或暂停开源新模型，计划并行训练开源与闭源模型。

卡耐基梅隆大学研究者构建基于GSM - Infinite的可控合成数据框架，分析预训练、中期训练和RL对模型推理泛化能力的影响，调和了RL有效性的不同观点，为改进训练策略提供基础。

当大模型走向深度推理，ICLR 2026 汇聚全球顶尖成果。OpenMMLab 等联合发起 AI Spot ICLR 2026 学术分享会，5 月 14 日 19 点直播，聚焦模型‘慢思考’，嘉宾将解读四大核心技术。

Mira Murati团队分享神经网络训练推理新研究，提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形，设计Manifold Muon优化器，实验显示效果好，但计算开销和理论问题待解决，代码已开源。

2月3日，云天励飞董事长陈宁在战略前瞻会表示要All in AI大算力推理芯片，打造“中国版TPU”。他认为2025 - 2035年是推理芯片高光时刻，还介绍了公司技术壁垒、差异、战略及生态等内容。

在AI辅助Coding技术发展背景下，开源大语言模型生成代码有运行错误。上交博士团队提出AP2O方法，构建AP2O - Coder框架，借鉴人类学习模式，经实验验证能提升模型性能、抑制错误、提高样本效率，还适配通用模型。

上海交通大学与vivo团队提出全新持续学习框架Octopus，首创无需历史数据的梯度正交化技术。实验显示，它在UCIT基准上表现超SOTA方法，还实现正向后向迁移，适合端侧部署。

2025年8月OpenAI发布gpt - oss，作者受相关项目启发，用约1000行Java代码实现gpt - oss推理引擎并发布在亚马逊官方github。文章分享开发体会，介绍模型架构、Java实现、性能优化等内容。

开发网页智能体常需大量人力标注训练样本，卡内基梅隆大学与亚马逊团队实现训练数据生成自动化。他们构建数据集，通过智能体工作流程生成数据，微调后 Qwen3 - 1.7B 表现出色，还公开数据与方法。

本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。