搜索：预训练数据精炼

「预训练数据精炼」共找到 3915 篇相关文章

5小时通关《原神》主线！Lumine：AI玩家正式登场

Lumine能像人类一样理解游戏画面、推理并操作，以接近人类效率5小时通关《原神》蒙德主线，还能零训练玩《鸣潮》等。它是开放式研发方案，靠少量数据和显卡让模型成强大智能体。

谷歌DeepMind把Gemini版大模型PH - LLM调教成「AI健康私教」，将可穿戴设备数据转化为睡眠健身建议，准确率超人类医生。它经两阶段训练，在多项测试中表现优异，或开启预防医学未来。

信息爆炸时代，传统搜索引擎难满足需求，开源Web Agent在极端复杂任务表现不佳。阿里巴巴通义实验室推出WebSailor，通过创新数据构造和训练方法，在BrowseComp等挑战上取得突破，缩小与顶级封闭系统差距。

Andrej Karpathy在播客提到模型持续用合成数据训练会出现‘认知坍塌’，能力退化。他认为人类随年龄增长和经验固化，也会从无限可能收敛到固定思维模式，像极了中年人的认知坍塌。

在AI图像生成领域，风格和主题驱动的图像生成一直脱节。字节跳动智能创作实验室推出USO模型，构建海量数据集，设计两阶段训练法，引入风格奖励学习范式，化解此难题，且已全面开源。

香港中文大学MMLab与美团研究团队开源OneThinker模型，它可覆盖图像与视频十类核心视觉任务，在31项测试中表现出色，还展现泛化能力。研究团队搭建数据集，并引入EMA - GRPO算法提升训练稳定性。

腾讯ARC Lab等机构提出全新视觉分词器TokLIP，将低级视觉Token与高级CLIP语义结合，支持端到端自回归训练，可接入LLM框架，降低计算与数据门槛，在多模态任务中表现优异，代码已开源。

传统listwise在复杂查询表现差，近期工作泛化性不佳。人大与百度等提出ReasonRank，通过全自动合成13K推理数据及两阶段训练，在BRIGHT等榜单表现优异，且ReasonRank-7B比Rank1-7B快2.5倍。

B站升级动画视频生成模型Index - AniSora技术并开源，支持多种二次元风格视频镜头一键生成。基于相关研究提出首个专为二次元视频生成的强化学习技术框架，构建奖励数据集、训练AnimeReward、提出GAPO优化策略，实验验证其有效性。

OpenEvidence被称为医学领域的Google和医生版ChatGPT，成立3年估值达60亿美金。它用高质量数据训练小而专模型，有“无幻觉”机制，直接面向医生推广，产品进化为临床决策助手，收入来自制药广告。