「预训练研究」共找到 3718 篇相关文章
RAE的终极形态？北大&阿里提出UniLIP: 将CLIP拓展到重建、生成和编辑
北大和阿里团队提出 UniLIP，解决了统一多模态模型中语义理解与像素重建的矛盾。它创新微调 CLIP，实现图像重建，还提出双条件架构用于生成和编辑，在多基准取得 SOTA 性能。
OpenAI 推出 GPT-5 驱动的安全卫士Aardvark：Codex 绝佳搭档
OpenAI推出由GPT - 5驱动的自主安全研究智能体Aardvark，用于软件安全保障。它能持续分析代码仓库，识别并修复漏洞，目前在内部及合作伙伴代码库效果良好，正处私有测试阶段。
DeepAgent：能够自主找工具的深度思考智能体，工具&任务随心配
现有智能体框架自主性差、工具使用受限。中国人民大学等机构研究者提出DeepAgent，能自主思考、发现工具并执行动作。它在多基准测试中表现出色，为构建更强真实世界智能体迈进重要一步。
八年后，Meta教会了Transformer「显式思考」
10月20日Meta上线新论文《The Free Transformer》，作者François重写Transformer思维方式，造出Free Transformer新架构。它在解码器内加入随机潜在变量，让模型生成内容前先‘思考’，实验显示在多任务上性能显著提升。
太疯狂了！Meta裁员裁到田渊栋头上，连组员一锅端
Meta AI大裁员裁到田渊栋头上，还整组裁。田渊栋在Meta工作超十年，是FAIR研究科学家总监，开发过“Dark Forest”等。他成果多，OpenAI等已在抢人，此次裁员或不简单。
LLM记忆管理终于不用“手把手教”了，新框架让智能体自主管理记忆系统
加州大学圣地亚哥分校和斯坦福大学研究人员提出强化学习框架Mem-α，用于训练LLM智能体自主管理记忆系统。它将记忆构建转为序列决策问题，采用多维度奖励函数，实验显示其全面超越现有方法。
机器人连续叠衣120分钟！仅用0.9B参数实现五大SOTA｜清华AIR & 上海AI Lab开源
清华大学智能产业研究院与上海人工智能实验室联合发布通用跨本体具身基座模型X-VLA。它是首个实现120min无辅助自主叠衣的全开源模型，仅0.9B参数量就在五大权威仿真基准刷新纪录。
对话 OPPO AI 姜昱辰：手机才是 Memory 最好的土壤，AI 一定会彻底改变智能手机
文章是对OPPO AI姜昱辰的访谈。他认为AI会改变智能手机，OPPO将小布记忆做成跨系统收藏夹。产品迭代后记得更广、更深、更有用，团队还探索记忆分层、更新等，也重视用户隐私和主动推荐能力提升。
GPT-6 或有"生命"！MIT新作实现LLM自我进化，冻结权重时代终结
MIT新作《Self-Adapting Language Models》实现LLM自我进化，SEAL框架让模型自己生成“自编辑”微调自身。它能实时学新数据、修复知识、形成记忆。经两种场景验证，小模型也能超越GPT - 4.1等。
永别了，人类冠军！AI横扫天文奥赛，GPT-5得分远超金牌选手2.7倍
国际天文与天体物理奥赛（IOAA）中，GPT - 5和Gemini 2.5 Pro完胜人类选手。俄亥俄州立大学团队考察五大顶尖LLM，发现它们大多达金牌水平，但在几何、时空推理等方面有困难。