「持续预训练」共找到 2559 篇相关文章
给大模型「持续注入新知识」，北航CASE框架：编辑千次不失忆，额外参数不到1MB丨WWW'26
北航团队提出CASE框架解决大语言模型持续吸收新知识难题。该框架给编辑“算分”、调“关键神经元”，破解核心痛点。实验显示，1000次编辑后准确率提升近10%，额外参数不到1MB。
刘鹏飞组提出Agent领域的少即是多：智能不在于数据堆砌，78个样本训练出超强Agent，128倍效率提升
刘鹏飞组论文《LIMI: Less is More for Agency》提出颠覆性观点，认为Agent智能培育关键在数据质而非量。LIMI用78个样本在AgencyBench得分超基线模型，实现128倍数据效率提升，为Agent开发提供新路径。
AI生成视频总不符合物理规律？匹兹堡大学团队新作PhyT2V：不重训练模型也能让物理真实度狂飙2.3倍！
匹兹堡大学团队提出 PhyT2V 框架，论文已被 CVPR 2025 接收。该框架不依赖重训练或大量外部数据，通过链式推理与迭代修正机制，增强主流 T2V 模型物理场景泛化与生成能力，应用前景广。
本周六直播预约 | Test-Time Reasoning综述分享！
当大模型训练成本飙升、数据枯竭，推理阶段扩展Test-Time Scaling（TTS）成研究热点。论文提出四维正交分析框架，梳理主流技术路线，提炼发展路径，给出操作指南与未来思考，本周六将直播分享该综述。
谢赛宁等推出统一多模态模型！替代VAE实现图像理解/生成双SOTA，代码权重数据集全开源
谢赛宁等团队推出统一多模态模型Blip3 - o，用扩散Transformer生成CLIP图像特征，采用顺序预训练策略。对比多种设计方案，确定CLIP + Flow Matching最佳，模型在多任务测试表现卓越且全开源。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
60000小时炼出新开源VLA！20多种机器人都能用
蚂蚁灵波发布开源VLA模型LingBot-VLA 2.0，用60000小时预训练数据“喂”出。它支持20多种机器人构型，融合LingBot-Depth提升空间理解，还学会预测未来，在GM - 100评测表现佳。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
Ilya新模型要来了？投资人爆料：今年最重要的发布！
a16z合伙人Martin Casado预告今年最重要的模型发布，线索指向Ilya Sutskever的新模型。SSI成立两年低调发展，获巨额融资，7月与英伟达合作。持续学习是焦点，但相关能力信息有限。
中年人的认知坍塌
Andrej Karpathy在播客提到模型持续用合成数据训练会出现‘认知坍塌’，能力退化。他认为人类随年龄增长和经验固化，也会从无限可能收敛到固定思维模式，像极了中年人的认知坍塌。