搜索：梯度保留策略

「梯度保留策略」共找到 1038 篇相关文章

奖励模型也能Scaling！上海AI Lab突破强化学习短板，提出策略判别学习新范式

上海人工智能实验室提出策略判别学习（POLAR）新范式，解决奖励模型设计与训练瓶颈。POLAR可灵活适配多样需求，弥补传统奖励模型短板，契合强化微调框架，实验证明其性能和泛化性优越。

北航彭浩团队提出SIHD框架，基于结构信息原理，自适应构建多尺度扩散层级，实现稳定离线策略学习。通过构建状态拓扑图、用结构信息增益引导扩散、引入结构熵正则化器，在D4RL测试中表现出色。

AI健康管理赛道竞争激烈，产品各有差异。量子位智库访谈小卡健康产品负责人李雅，探讨AI如何赋能、产品功能拓展、数据指标关注、智能设备联动、开发问题及运营推广等，展示其差异化策略和发展思考。

Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。

文章分析深度学习中batch size对训练过程的影响，探讨超大batch优缺点及应对方法。用面试、通俗、科学三种方式解答问题，还通过MNIST实验，从迭代速度、梯度平滑程度、收敛速度等指标对比不同batch size情况。

随着大模型训练所需计算资源爆炸式增长，微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区，避免分布式训练同步完整梯度，在集中式和分布式场景都有高效表现，性能超Muon。

视频模型序列化处理影响推理速度与扩展性，传统token压缩方法在视频理解中有问题。阿里通义实验室与南开联合发布LLaVA - Scissor，用SCC方法和两步时空压缩策略，实验显示其性能优于其他方法。

随着多模态大模型发展，处理高分辨率图像成关键。主流视觉编码范式难兼顾性能与效率，清华和中科院团队发布 LLaVA-UHD v3，提出 PVC 框架，对比 SBE 和 GNE，验证其在提升效率同时保留模型能力。

文章指出 AI 产品经理与传统产品经理不同，AI 是会演进的系统。掌握 AI 产品策略是 PM 首要技能，从方向、差异化、设计、部署、领导力五阶段构建策略，还介绍了结构化实验方法，无策略的 PM 将被淘汰。

上交博士 Kun Lei 博客提出用两个问题理解强化学习：数据从哪来、策略更新多频繁。借此梳理算法逻辑，还延伸到机器人基础模型，指出训练节奏与其实践契合。