「中训练」共找到 4195 篇相关文章
智能体系统如何「边做边学」？斯坦福团队探索在线优化的新范式
斯坦福等校团队提出 AgentFlow 框架及 Flow - GRPO 算法，让智能体系统能「边做边学」。它由多个智能体模块协作，在多领域基准测试中表现出色，小模型也能超越大模型，为智能体训练提供新思路。
硬核「吵」了30分钟：这场大模型圆桌，把AI行业的分歧说透了
在WAIC 2025大模型论坛的“模型之问”圆桌中，多位行业大佬围绕大模型展开辩论，话题涉及训练范式、模型架构、数据、开闭源等核心问题，不同观点碰撞，深入探讨大模型技术演进与发展之路。
大模型首次打破围棋思维「黑盒」，打通科学发现新路径！上海AI Lab发布新一代InternThinker
上海AI Lab发布新一代书生·思客（InternThinker），它是我国首个具围棋专业水平且能展示透明思维链的大模型。其得益于InternBootcamp训练环境，还在多任务混合训练中现‘涌现时刻’，背后有通专融合底层技术突破。
这些大神在Meta的论文看一篇少一篇了
田渊栋团队剖析可验证奖励强化学习（RLVR）训练动态，戳破参数更新稀疏误区，提出三门理论说明其参数更新定位机制，还为RL训练算法设计提供指导，指出SFT时代参数高效微调方法在RLVR中迁移效果差。
12项世界第一！国产基模一战封神，11亿参数逆袭70亿大魔王
蚂蚁灵波的LingBot-Depth 2.0空间感知模型，在测试中拿下12个世界第一，解决了玻璃、细小物体等行业难题。它还与奥比中光达成合作落地商业应用。其核心预训练基模LingBot-Vision被开源，有望加速具身智能生态发展。
解决扩散模型过拟合的创新框架T-LoRA
预训练大型文本到图像扩散模型定制化时，样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架，动态调整训练能力、用正交初始化，实验显示其在单图像和多图像任务表现优，用户更偏好其生成图像。
马斯克用恐怖算力，堆出6万亿参数性能怪兽Grok 5！剑指AGI
马斯克以Grok为核心推进xAI，从算力、数据到产品生态全面布局通往AGI的道路。Grok迭代迅速，有独特研发哲学。X平台数据、特斯拉算力成资源护城河，Grok还将进入特斯拉汽车。但Grok成长中也有争议，xAI在探索中前行。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
小红书开源大模型dots.llm1，初次出手，小有惊艳！国外网友们又炸了……
小红书hi lab团队公布首个开源大模型dots.llm1，这是142B参数的MoE模型，仅14B激活参数就能与Qwen2.5 - 72B打平。它开源力度大，训练效率高，数据处理精细，训练稳定，获国外网友高度关注。