「预训练时代」共找到 3275 篇相关文章
具身智能稀缺的数据，可能藏在这个游戏手柄里？
游戏录屏平台Medal掌握的玩家操作记录成机器人模型训练核心数据。其创始人皮姆创办General Intuition获高额融资，该公司用游戏录像预训练动作模型，但也面临数据多元性、任务表现及合作模式等问题。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
1万亿参数Ling-1T开源，国产LLM牛了~
Ling-1T是Ling 2.0系列首款旗舰“非思维”模型，总参数量达1万亿。预训练数据超20万亿token，支持128K上下文长度。在多项任务中表现出色，是目前已知最大的FP8训练基座模型，已完成全面评测。
超脑未来WorldDreamer V4横扫多个权威榜单，世界模型进入群体智能时代
超脑未来发布 WorldDreamer V4，它以多智能体为基本单位，具多种核心能力。采用新预训练架构，引入 Masked Agent Modeling，用共享隐式世界状态带来新协同范式，还在多权威榜单领先。
AI时代，为什么你又焦虑又学不进去？这个人破解了专注力的秘密
文章指出AI时代人们学不进去，原因在于信息爆炸、AI工具易致分心，本质是没学会处理学习不适。介绍了Time Boxing、“10分钟法则”等应对方法，强调专注力是新学习力，要预先规划建立学习系统。
OpenAI谈：大模型为什么会有幻觉？如何避免？
OpenAI论文探讨大模型幻觉问题，指出评测缺陷，像多数AI模型评测非对即错，模型为得分会瞎猜。还从预训练和后训练阶段剖析根源，提议改造评测，引入置信度阈值和错误惩罚机制。
GPT-6 Astra 正式登场：烧了 10 万块 GPU、多项跑分逼近满分，OpenAI 总裁：我们迎来 AGI 时代
今天凌晨，OpenAI正式发布GPT - 6 Astra。它多项跑分逼近满分，OpenAI总裁称其或意味着AGI时代开始。该模型在多方面能力领先，安全措施升级，将在‘未来几天’面向部分用户推出。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
ACL'25最佳论文解读 | 大模型也会‘弹簧回弹’？揭秘 LLM 对齐的脆弱根源
本文分享 ACL 2025 最佳论文，指出预训练大模型存在‘抗对齐’的 Elasticity 现象，即对齐微调只是暂时拉伸，后续微调会让其迅速弹回预训练分布。研究量化该概念，用‘压缩理论’刻画对齐并实验验证。