「概念蒸馏训练策略」共找到 2511 篇相关文章
字节发布通用游戏智能体！5000亿token训练，用鼠标键盘吊打GPT-5！
字节seed团队打造通用游戏智能体Game-TARS，基于键盘—鼠标动作空间训练，用超5000亿标注量级数据，结合新技术提升扩展性和泛化性，在多类游戏任务中表现超越GPT - 5等模型。
Thinking Machine新研究刷屏！结合RL+微调优势，小模型训练更具性价比了
Thinking Machine新研究提出On - Policy Distillation方法，结合RL与微调优势。该方法让学生模型每步由教师模型指导，用KL散度评估分歧。实验表明其训练小模型性价比高，还能解决AI“灾难性遗忘”问题。
北大彭一杰教授课题组提出RiskPO，用风险度量优化重塑大模型后训练
北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。
刚刚，OpenAI找到控制AI善恶的开关：ChatGPT坏人格在预训练阶段已成型
OpenAI最新论文揭示控制AI“善恶”开关。研究发现训练模型在某领域答错题，会致其在其他领域“学坏”，还找到“毒性人格特征”。同时给出解决办法，能让模型恢复正常。
「幻觉」竟是Karpathy十年前命名的？这个AI圈起名大师带火了多少概念？
AI大牛Andrej Karpathy是命名大师，“幻觉”一词由他命名，2022年随ChatGPT火起来。他还提出软件2.0、3.0，氛围编程、细菌式编程等概念，转发带火上下文工程，平时推文也让一些问题受关注。
超越DeepSeek-R1，英伟达开源新王登顶！14万H100小时训练细节全曝光
英伟达Llama - Nemotron系列模型超越DeepSeek - R1且全部开源。论文揭秘其训练关键，如用合成数据监督微调与强化学习等。还介绍构建阶段、架构设计等，评估显示该系列模型在多任务表现出色。
西湖大学于开丞创业做概念世界模型，过亿元融资后首次公开发声
2023 年于开丞做世界模型无人看好，如今该领域大热。他曾否定自己成功工作，提出“概念世界模型”解决泛化问题。其创办的西湖数智已融资超 1 亿，还分享了技术路线及对行业的看法。
EasyCache：无需训练的视频扩散模型推理加速——极简高效的视频生成提速方案
近年来，扩散模型在视频生成领域广泛应用，但推理慢、算力消耗高问题突出。EasyCache是无需训练的视频扩散模型推理加速方案，在多模型实验中实现大幅提速且视频质量几乎无损，为技术落地提供基础。
ICCV 2025｜降低扩散模型中的时空冗余，上交大EEdit实现免训练图像编辑加速
上海交通大学EPIC Lab团队提出EEdit框架，入选ICCV 2025。它是首个加速匹配流模型图像编辑框架，能兼容多种引导方案，免训练，速度较原始工作流快2.4倍，支持多类型编辑任务。
无需再训练即可增强性能！港大团队提出GPC框架，实现机器人「策略组合」
在机器人学习领域，提升策略性能常需巨额成本。香港大学团队提出GPC框架，通过“策略组合”创造超越单一父策略的“组合策略”，免训练且跨架构、模态融合，经仿真和真机实验验证性能提升。