搜索：上下文去噪训练

「上下文去噪训练」共找到 2905 篇相关文章

大模型"温故而知新"实现了！无需历史数据，Octopus 效果超越全数据训练｜CVPR‘26 Octopus

上海交通大学与vivo团队提出全新持续学习框架Octopus，首创无需历史数据的梯度正交化技术。实验显示，它在UCIT基准上表现超SOTA方法，还实现正向后向迁移，适合端侧部署。

彼得・蒂尔领投20亿美元融资给Halter公司的AI牛项圈。项圈能追踪牛的多项数据，有虚拟围栏功能。此外，何同学为粉丝做找牛系统，日本团队开发分析鸡情绪的AI系统。

大模型层数增多时，残差连接存在PreNorm稀释问题，导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案，还给出工程解法Block AttnRes，实验显示能省算力且提升效果。

Meta发布生成式广告模型GEM详细信息，旨在改善平台广告推荐能力。它处理海量用户 - 广告交互数据，用三种方法构建系统，还实施GPU级优化，采用两种知识迁移策略，获业内人士认可。

南洋理工大学与上海人工智能实验室团队提出PhysX - Anything，首个面向仿真、具物理属性的3D生成框架。它仅需单张图像就能生成可用于仿真的3D资产，在多项测试中表现优异，有望推动3D重建范式转变。

北京AIGC视听产业创新中心位于朝阳区，是推动影视制作基地建设的重要举措。由多方参与，采取‘共创、共建、共享’模式，提供六大服务平台，截至2025年8月已汇聚60余家生态合作伙伴，由首创郎园运营。

扎克伯格高薪挖人组建Meta超级智能实验室，对标OpenAI和Google DeepMind。但刚挖来的人有回流，老员工也出走，涵盖多岗位。重组致管理混乱，华尔街质疑720亿美元AI投资回报。

当地时间本周三，特朗普签署三项行政命令、概述「人工智能行动计划」，含超90项政策行动，计划明年实施。该计划旨在消除监管、加快AI发展，还谈及拆分英伟达、放宽芯片出口等事。

香港城市大学等团队发布图像 - 视频生成模型Pusa V1.0，在基础大模型上引入VTA机制，用3860对视频 - 文字数据、约500美元微调，在I2V超越Wan - I2V - 14B实现SOTA，还解锁零样本任务能力。

伯克利团队提出新方法InFOM，不依赖奖励信号，能在多任务中超强迁移与推理。在36个基于状态和4个基于图像的任务测试中，InFOM表现出色，在jaco任务上改进达20倍。