「大模型预训练」共找到 9494 篇相关文章
碾压π0.5，复旦团队首创「世界模型+具身训练+强化学习」闭环框架
复旦团队针对当前 VLA 策略依赖模仿学习、真实机器人在线 RL 成本高、传统物理仿真器有局限等问题，提出 ProphRL 框架。该框架以世界模型 Prophet 为核心，结合 RL 算法，为具身智能落地提供更可行路径，实验效果显著。
36个月大逆转！他带着谷歌AI杀回来了，下一步世界模型
ChatGPT发布近36个月，哈萨比斯带领谷歌AI反攻，新发布的Gemini 3在多模型榜单登顶，表现优于GPT - 5。谷歌将其作为底层模型开放，增强现有产品，还考虑重启谷歌眼镜项目。谷歌正缩小与OpenAI差距，哈萨比斯预计5 - 10年实现AGI。
一个LoRA实现GPT-4o级图像编辑！浙大哈佛新模型冲上Hugging Face榜二
随着Gemini、GPT - 4o等把基于文本的图像编辑推向高峰，提高性能常需大量数据和大参数量模型。而浙大哈佛团队提出ICEdit，用少量数据和参数实现高质量图像编辑，媲美甚至超越商业大模型。
最新发现！每参数3.6比特，语言模型最多能记住这么多
Meta、DeepMind等团队研究语言模型记忆容量，提出新方法估计模型对数据点的‘了解’程度，发现GPT系列模型约每个参数3.6比特，还提出模型容量等相关定律，激发社区多方面思考。
爆冷！字节Seed 在CCPC 决赛只做出一道签到题，而DeepSeek R1 直接挂零？
第十届 CCPC 举行，字节 Seed 携 Seed - Thinking 参赛，仅做出一题，DeepSeek R1 挂零。不同模型架构在比赛中差异不大，暴露出大模型做算法题短板，推理模式模型表现更好。
GPT-5-Thinking新训练方法公开：让AI学会忏悔
OpenAI提出忏悔训练Confessions，让ChatGPT自己“坦白从宽”。在GPT - 5 - Thinking上实验有效，模型犯错后多会坦白，且更诚实，不影响原任务表现。还介绍了训练方法、实验结果及局限性。
搜狗输入法，居然还在更新？？
在腾讯微信输入法上线、各类AI新产品轰炸的当下，搜狗输入法进行20.0 AI大版本升级。它有AI文本翻译、轻声识别等功能，用AI大模型全面重构，还接入腾讯混元、DeepSeek R1大模型，免费提供AI服务。
英伟达Jim Fan：「世界建模」是新一代预训练范式
英伟达机器人主管Jim Fan判断，继“下一个词预测”后，世界建模将成新预训练范式，2026年大世界模型将为多模态AI奠基。他还讨论世界模型定义、应用，展望新推理形式，业内人士也各抒己见。
南洋理工、北大、上海AI实验室开源长记忆世界模型
目前世界模型模拟方法在维持长期一致性上有挑战，南洋理工大学、北京大学王选计算机技术研究所、上海人工智能实验室联合开源长记忆世界模型WORLDMEM，介绍了其记忆机制、基础架构、训练技术及检索策略等。
解决扩散模型过拟合的创新框架T-LoRA
预训练大型文本到图像扩散模型定制化时，样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架，动态调整训练能力、用正交初始化，实验显示其在单图像和多图像任务表现优，用户更偏好其生成图像。