「大模型预训练」共找到 9479 篇相关文章
百万规模数据集打造人形机器人通用大模型，实现精细动作跨平台、跨形态动作迁移丨北大人大联合发布
北大和人大团队在通用人形机器人动作生成领域取得重大突破，首创通用动作生成框架Being - M0，构建百万规模动作生成数据集MotionLib，研发文本驱动动作生成模型，实现人体动作向多类型人形机器人迁移，文章将发表于ICML2025。
揭秘大模型评测：如何用“说明书”式方法实现业务场景下的精准评估
文章系统性介绍业务场景下大模型评测流程，包括需求分析、评测集设计生成、维度设定、任务执行和报告输出。指出评测挑战，如设计维度和集，还给出评测方法及案例，像蚂蚁评测集、业务自动化评测。
大模型到底是怎么「思考」的？第一篇系统性综述SAE的文章来了
在大语言模型时代，人们需要“能解释”的LLM。SAE技术崛起，作者团队发布首篇SAE综述，梳理其技术、演化和挑战。介绍了SAE概念、优势，涵盖其技术框架、可解释性分析等多方面内容。
Nanbeige4.2-3B：探索通用Agent小模型
在模型越做越大的当下，推理成本成了影响Agent大规模使用的关键因素。南北阁实验室推出Nanbeige4.2 - 3B，在架构、数据构造和训练pipeline层面做了系统工作，评测表现良好，还探索本地个人助手等应用。
Yann LeCun放出憋了20年的大招：Meta开源V-JEPA 2世界模型
Meta发布V-JEPA 2世界模型，参数高达10亿，推理速度比英伟达Cosmos快30倍。它基于Vision Transformer架构，是Yann LeCun倡导多年的JEPA路线成果，仅需62小时机器人数据训练就能执行任务，打脸质疑者。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
震撼发布！最大人体动作数据集 MotionMillion 正式登场
上海交通大学研究团队构建高效标注流程，发布最大人体动作数据集MotionMillion，含超2000小时、200万条文本 - 动作配对数据。还推出评测体系MotionMillion - Eval，训练70亿参数动作生成大模型，刷新SOTA。
阿里云CIO首次系统复盘：大模型落地的RIDE方法论与RaaS实践突破
阿里云智能集团 CIO 蒋林泉分享大模型落地实践，介绍了阿里云在翻译、智能外呼等场景的应用案例，提出 RIDE 方法论，包括重组组织、识别机会、定义指标和推进执行，还分析了翻译和 Agent 模式的要点。
被轻视的巨大市场，大厂做不好的Local Agent为何难？| 甲子光年
文章指出大模型边际收益递减，AI竞赛规则生变，产业从‘参数竞赛’转向‘效率革命’。本地Agent有潜力，但主流产品体验差。GreenBitAI深耕低比特模型，推出Libra，有望撬开万亿美元增量市场。