「预训练」共找到 2196 篇相关文章
斯坦福：优化器「诸神之战」？AdamW 凭「稳定」胜出
斯坦福大学 Percy Liang 团队研究指出，虽有不少声称能显著加速的优化器替代方案，AdamW 仍为预训练稳健首选，但矩阵型方法在特定数据–模型比例下优势明显。研究还揭示了现有研究的方法论缺陷。
token危机解决？扩散模型数据潜力3倍于自回归，重训480次性能仍攀升
新加坡国立大学AI研究者Jinjie Ni团队预训练扩散语言模型（DLMs）与自回归（AR）模型，发现DLMs是超强数据学习者，数据潜力超AR 3倍，重训480次性能仍攀升，还剖析同期研究方法论缺陷。
The Batch：820 | Qwen3 向 DeepSeek-R1 发起挑战
阿里巴巴发布八个大型语言模型权重，含两个 MoE 架构和六个稠密模型。预训练数据达 36 万亿 token，支持 119 种语言及方言。测试中 Qwen3 家族表现出色，或终结 DeepSeek - R1 霸主地位，设计用于智能体系统。
CVPR2026满分论文：Proxy-GS为结构化3D高斯溅射引入统一遮挡先验
上海交通大学钟志航团队等在CVPR 2026提出Proxy - GS，面向基于MLP的结构化3D高斯溅射，用轻量级代理网格将遮挡关系变为可见性信号。在推理和训练阶段发挥作用，在遮挡密集场景实现渲染加速，画质与速度均优。
让图像生成告别 AI 味！清华 + 港中大 + 腾讯混元联手推出SRPO
腾讯混元联合港中大、清华推出SRPO，解决文生图技术痛点。它结合Direct - Align和SRPO，提升图像审美等，训练时间缩至十分钟，在测试中碾压主流方法，不过对冷门风格控制和机制可解释性待提升。
MoE不够看了，腾讯推出MoT：2B具身模型22项评测16项最佳
腾讯混元团队联合Robotics X实验室推出HY - Embodied - 0.5系列基础模型，含MoT - 2B和MoE - 32B两款主力模型。在22项评测中，MoT - 2B获16项最佳，其架构、数据和训练有创新，能应用于机器人控制。
万字实录：AI究竟是普通人的“印钞机”，还是更狠的「收割机」？| GAIR Live 021
雷峰网&AI科技评论邀三位老师探讨“AI大模型金融应用的机遇与挑战”。以Trading Arena大赛为例，分析大模型在金融投资应用，指出打造强逻辑推理“大脑”是金融应用关键，也提及Agent局限与“黑天鹅”预判路径等。
GPT-5被批过度炒作、性能落后，OpenAI联创揭秘其中原因：我们把它关在 “象牙塔”，和现实世界接触不够
OpenAI 发布 GPT - 5 进军企业市场，虽发布不顺利，但部分初创公司和企业客户反馈其在复杂任务表现出色、价格低廉。OpenAI 联创 Greg Brockman 揭秘 GPT - 5，称其代表‘几乎难以形容的智能’，是科研好伙伴，还探讨算力、模型训练等问题。
14万，家务机器人带回家！斯坦福华人博士具身创业首款产品亮相
斯坦福明星华人博士生创业机器人Memo亮相，售价2万美刀。它颜值高，能做家务，在无剪辑等的demo中有出色表现。其背后是ACT - 1模型，依赖技能捕捉手套数据训练，成本低且用户可教它新本领，预计2026年推出。
世界模型迎来因果升级：CD-LAM仅用几千步微调即可显著增强动作控制
Aether AI与加州大学圣地亚哥分校研究发现现有世界模型会无视动作控制信号，根源是隐动作模型受视觉混杂因素污染。团队提出CD - LAM，从上游净化隐动作表征，实验显示其能降动作误差、提画面质量，降低后训练开销。