「多任务训练」共找到 6570 篇相关文章
刚刚，Andrej Karpathy放出大招：开源nanochat项目，仅8000行代码100美元就能训练出一个ChatGPT
Andrej Karpathy发布nanochat项目，用8000行代码实现ChatGPT完整训练流程。在8xH100节点跑4小时、花100美元，就能有对话、写故事、答题的AI助手。项目覆盖广，含多训练步骤及评估体系。
MSRA清北推出强化预训练！取代传统自监督，14B模型媲美32B
微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。
Qwen3技术报告首次全公开！“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告，介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式，引入思考预算机制，降低轻量级模型计算资源，在多基准测试领先，多语言支持扩展至119种，所有模型开源。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
CMU&斯坦福提出Reasoning新范式！自己找“窍门”，教会LLM抽象Reasoning
大型语言模型解决复杂推理问题时效率低，论文提出创新方法，让模型利用“推理抽象”，通过RLAD两玩家强化学习框架训练，在多基准测试提升性能，还分析了其作用、局限与未来方向。
Embedding黑箱成为历史！这个新框架让模型“先解释，再学Embedding”
来自多高校研究人员推出可解释的生成式Embedding框架GRACE，解决传统文本表征模型黑箱式表征瓶颈。它重新定义对比学习信号，含三个关键模块，训练双模式统一，实验跨任务提升且不损生成能力。
阿里发布信息检索Agent，可自主上网查资料，GAIA基准超越GPT-4o | 模型&数据开源
阿里发布WebDancer信息检索Agent，能自主上网查资料。它具备多步推理等能力，采用四阶段训练范式，模型和方法已开源。在多个基准测试中表现优异，突显处理复杂任务的鲁棒性和有效性。
开源Agent新标杆：通义WebSailor多榜夺魁，挑战OpenAI高难度Agent基准BrowseComp
信息爆炸时代，传统搜索引擎难满足需求，开源Web Agent在极端复杂任务表现不佳。阿里巴巴通义实验室推出WebSailor，通过创新数据构造和训练方法，在BrowseComp等挑战上取得突破，缩小与顶级封闭系统差距。
小扎又开源了：7B实现自监督学习SOTA
Meta发布全新开源视觉模型DINOv3，首次证明自监督学习模型能在广泛任务中超越弱监督学习模型。它用无标注方法，扩展数据和模型规模，支持标注稀缺场景，在多任务实现SOTA。
美团杀入视频生成模型赛道，LongCat-Video 136亿参数媲美顶尖模型，效率提升10倍
美团LongCat团队发布LongCat - Video基础视频生成模型，有136亿参数量，多任务表现出色。它核心亮点多，还建立了数据处理流水线，采用特殊架构和训练方法，提升了生成效率，性能媲美顶尖模型。