「强化预训练」共找到 2553 篇相关文章
首次披露！DeepSeek V3 发布软硬一体协同训练论文，公开「降成本」秘诀
DeepSeek团队发布论文《洞察DeepSeek - V3：规模的挑战和对AI架构硬件的思考》，从硬件架构和模型设计双重视角，探索其经济高效的大规模训练和推理方法，介绍了设计原则、低精度驱动等多方面内容及降成本秘诀。
GPU 开始伸手进算法了：摩尔线程要加速 3D 高斯训练 | ECCV 2026
摩尔线程团队论文LiteGS被ECCV 2026接收，旨在加速3DGS训练。它从GPU底层光栅化、数据排列及致密化判断三层改进，进行系统与算法协同设计，开源后成果显著。
大模型训练新突破！Meta提出LSP：无数据也能实现能力飞升
Meta提出语言自我博弈（LSP）方法，利用自我博弈框架让模型自我改进，不依赖额外数据。LSP赋予模型挑战者和解题者身份，引入GRPO和KL散度正则化技术，解决了大模型训练的数据依赖难题。
腾讯开源智能体新框架：不用训练无需充值，用开源模型实现SOTA Agent
智能体框架是推动智能体生态发展的基础设施，但现有框架存在上手门槛高、依赖闭源模型等问题。腾讯优图实验室开源Youtu - agent框架，无需训练模型、不依赖闭源API，性能领先，有多个核心亮点和典型应用案例。
EMNLP2025 | SFT与RL的结合，vivo AI Lab提出新的后训练方法
vivo AI Lab 算法团队提出新的大模型后训练框架 GTA，综合 SFT 和 RL 优点，解决文本分类场景中 RL 收敛慢问题。论文已被 EMNLP 2025 录用，介绍了 GTA 框架设计思路、实验结果等，未来还将探索更多场景和大模型。
Cursor发布首个编程大模型！代码生成250tokens/秒，强化学习+MoE架构
Cursor 2.0正式发布，搭载自研大模型Composer。它30秒完成复杂任务，比同行快400%，每秒生成250个tokens。还带来原生浏览器工具等新功能，基于强化学习，但模型底子透明度遭质疑。
在一台1970年代的PDP-11上训练Transformer需要多久？答案是5.5分钟
近日，开发者复现1970年代技术环境，用PDP - 11汇编语言实现Transformer并训练成功，项目叫ATTN - 11。在低资源下实现功能闭环引热议，大家思考Transformer到底需要什么。
开发者狂喜：Thinking Machines发布首款产品Tinker，后训练麻烦全给包了
OpenAI前CTO创办的Thinking Machines推出首款产品Tinker，这是用于微调语言模型的API，能简化LLM后训练过程，支持前沿模型，使用LoRA技术降低成本，还发布开源库，多高校团队已试用。
单次训练横扫9个基准，遥感检测最大数据集与基础模型框架问世
北京航空航天大学团队发布面向通用遥感目标检测的大规模数据集与基础模型框架 LEVIRDet，构建了 LEVIRDet - 159 数据集，提出 LEVIRDetNet 模型。前者为训练泛化能力强的模型提供新数据基础，后者在多基准测试中表现出色。
字节发布通用游戏智能体！5000亿token训练，用鼠标键盘吊打GPT-5！
字节seed团队打造通用游戏智能体Game-TARS，基于键盘—鼠标动作空间训练，用超5000亿标注量级数据，结合新技术提升扩展性和泛化性，在多类游戏任务中表现超越GPT - 5等模型。