「预训练语言模型」共找到 8240 篇相关文章
训练时间减半，性能不降反升！腾讯混元开源图像生成高效强化方案MixGRPO
混元基础模型团队提出全新框架MixGRPO，结合SDE和ODE，简化MDP优化流程，提升效率与性能。还推出更快变体MixGRPO - Flash。MixGRPO训练时间降近50%，MixGRPO - Flash再降71%，效果和效率优于DanceGRPO。
打破「数据暴力」预训练惯性，阿里Qwen、上交大等提出预训练动态数据选择范式OPUS
阿里Qwen、上交大等团队提出预训练动态数据选择范式OPUS，打破“数据暴力”预训练惯性。它将数据选择与优化器更新轨迹对齐，提升预训练效率与下游泛化表现，实验显示其“效率+性能”双提升。
颜水成领衔，给AI分段位！超100款多模态模型，无人达到L5
十所顶尖高校联合发布General - Level评估框架和General - Bench基准数据集，用五级分类制明确多模态通才模型能力标准。评估超100款模型，发现多数在L2 - L3，无L5模型，揭示当前模型不足。
张雪机车燃爆封神！国产2B语音模型重磅开源，全网听完都起鸡皮疙瘩
面壁智能联合多方开发的2B小模型VoxCPM 2于4月开源，支持30种语言与9大方言，能实现声音克隆、情绪控制、音色设计等功能。实测显示其能力出色，还提供全家桶级工具箱，采用独特技术路线。
大模型是「躲在洞穴里」观察世界？ 强化学习大佬「吹哨」提醒LLM致命缺点
加州大学伯克利分校副教授、强化学习大牛Sergey Levine在博客指出，当前大语言模型（LLM）只是对人类大脑和思维的间接「扫描」，如同被困洞穴看人类智慧「投影」，无法代替真正思维。
Nature重磅研究：大模型让你变得更聪明还是更笨了？创造力增强还是扼杀了?
《自然》研究表明，大语言模型对创造力的影响取决于任务。简单任务中，它像灵感助推器，分担认知负荷；复杂任务里，易致‘创意固化’，长期依赖还可能使大脑‘变懒’。需按需调节使用。
比英伟达早，比李飞飞强，大晓Kairos原生一体化世界模型定义物理AI新路线
大晓机器人发布 Kairos 开悟世界模型，其首创“多模态理解 — 生成 — 预测”原生一体化架构，采用跨具身渐进式训练体系和“以人为中心”的数据金字塔，还实现端侧部署，在四大权威具身智能基准上全面登顶。
AI真的需要「像人类」那样思考吗？AlphaOne揭示属于大模型的「思考之道」
近年大模型在推理任务有进展，但缺乏推理节奏调控能力。伊利诺伊大学厄巴纳 - 香槟分校和加州大学伯克利分校研究提出 AlphaOne 框架，引入 α - moment 实现无需训练的推理调控，实验显示其能提升准确率和效率。
ENG APPL COMP FLUID | 西北工业大学曹文博、张伟伟等：基于参数化神经网络求解器的层流翼型绕流代理模型
近年来，PINNs在流体力学中受关注，但在高维参数化与复杂流动问题中受限。西北工业大学曹文博团队基于TSONN构建层流翼型绕流参数化求解器，训练出强泛化能力的代理模型，为工程层流气动分析提供新方案。
阿里发布信息检索Agent，可自主上网查资料，GAIA基准超越GPT-4o | 模型&数据开源
阿里发布WebDancer信息检索Agent，能自主上网查资料。它具备多步推理等能力，采用四阶段训练范式，模型和方法已开源。在多个基准测试中表现优异，突显处理复杂任务的鲁棒性和有效性。