「预训练范式」共找到 2905 篇相关文章
The Batch: 884 | Transformer获得新能量
弗吉尼亚大学等机构的研究人员提出 Energy-Based Transformer（EBT），它能检查自身输出。训练时通过能量值优化预测概率向量，测试显示其泛化优但生成特定文本差，扩展性好，为高性能带来新可能。
躲了科学家几十年的流体不稳定奇点，被DeepMind用AI找到了
谷歌DeepMind与多所高校合作，用物理知情神经网络（PINN）+高精度数值优化的方法，找到了流体方程里的不稳定奇点。这种奇点很“挑剔”，此前难寻踪迹，此次发现为非线性流体动力学研究提供新范式。
最大开源第一视角数据集 EgoLive 来了，名校站台、近百家机构争相申请
今年4月京东开源业界最大人类第一视角数据集EgoLive，已获近百家机构申请。它用自研设备采集，经多模态处理，覆盖多场景任务。其数据用于JoyAI - RA训练，在真实场景验证效果好，还推动具身智能数据标准化。
ACL 2026｜打破推理同质化！阿里达摩院新作让RLVR从重复采样走向有效探索
阿里达摩院智能决策团队提出面向RLVR后训练的探索增强框架I²B-LPO，改进rollout策略，在关键节点生成更具区分度的推理轨迹，结合信息瓶颈自奖励机制，在多个数学基准上提升准确率与语义多样性。
Unsloth让大模型跑在手机上！
Unsloth放出教程，可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化，Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失，还给出iOS和Android部署步骤及注意事项。
NVIDIA重磅开源！OmniVinci 仅 9B 模型就拿下多模态冠军！
英伟达推出全模态大语言模型 OmniVinci，架构有三大创新。OmniVinci - 9B 模型表现亮眼，多测试中大幅超 Qwen2.5 - Omni，且训练量仅为其六分之一。其架构经多阶段流程实现全模态理解，还支持多种功能。
Yann LeCun放出憋了20年的大招：Meta开源V-JEPA 2世界模型
Meta发布V-JEPA 2世界模型，参数高达10亿，推理速度比英伟达Cosmos快30倍。它基于Vision Transformer架构，是Yann LeCun倡导多年的JEPA路线成果，仅需62小时机器人数据训练就能执行任务，打脸质疑者。
全球第一AI科学家天团，首战封神！2.5个月找到治盲新药，医学圈震撼
世界首个AI科学家天团发布首个成果，2.5个月发现治疗失明新药。AI包办写论文全过程，人类只需执行实验。团队推出全自动化多智能体系统Robin，将开源代码，它可跨领域应用，标志科研新范式诞生。
1000+页PDF解析速度暴涨3倍，MinerU模式不香了
百度PaddleOCR推出HPD - Parsing小模型，文档解析速度大幅提升，是上一代最快模型的1.62倍、自身原解码方式的3.06倍。它采用层级并行解码架构，有两层并行设计，效果出色且兼容性好，还分享了优质训练方法和优化思路。
对话蚂蚁吴伟：训推一体池化调度，如何把GPU用到极限
AICon大会前，与蚂蚁集团吴伟深度对话，探讨GPU资源调度解法。他指出CPU和GPU有结构性差异，只在推理或训练内优化有资源闲置，国产卡缺全链路生态，软件优化有天花板。还分享架构思路、算法及落地效果等。