搜索：概念蒸馏训练策略

「概念蒸馏训练策略」共找到 2515 篇相关文章

培养好品味

如今AI时代，软件竞争不再只看能否正常工作，产品品味成关键。文章指出品味是经长期训练的直觉，还给出培养方法，如接触优秀作品、思考喜好原因、大量练习并寻求反馈。

多数基于Transformer架构的模型处理多视图输入有可扩展性问题，成均馆大学、延世大学研究人员提出创新3D重建模型iLRM。它通过迭代细化机制生成3D高斯表示，有独特架构设计和高效注意力机制。

香港城市大学王茂林等提出 EI - BERT 框架，解决移动设备部署 NLU 模型难题。通过硬令牌剪枝、交叉蒸馏、模块化量化，实现 99.5% 压缩率。在多任务中表现出色，已在支付宝大规模应用。

Meta进行AI研究架构大重组，将业务分为研究、训练、产品和基础设施四个团队。成立TBD Lab探索新方向，如构建‘omni’模型；FAIR成创新引擎；解散AGI Foundations团队。旨在强化超级智能战略。

淘天集团未来生活实验室团队提出首个3D动作游戏专用VLA模型CombatVLA，已被ICCV 2025接收。它能处理视觉输入输出动作指令，在战斗理解准确率和执行速度上表现优异，还构建了评测基准等。

文章围绕《A Survey on Agent Workflow》展开，介绍了Agent Workflow概念、与Multi - Agent差异、核心组成及Agent角色。对24个主流框架进行对比，还给出不同场景下的框架选择建议，指出当前框架缺乏统一标准。

今天凌晨，Meta开源视觉大模型DINOv3，采用自我监督学习，无需标注数据。它在60多个视觉任务测试中表现出色，超越同类模型。还引入后处理优化策略，扩展应用场景，能适应多种部署环境。

当全球为ChatGPT喝彩，OpenAI的MathGen团队秘密锻造AI「推理」能力，打造全能AI智能体。OpenAI坚信推理能力可复制到各领域，未来AI智能体将颠覆一切，如今围绕人才的战争已白热化。

总部位于北京的 Moonshot AI 发布 1 万亿参数的 Kimi K2 系列大语言模型，包括预训练和微调版本。它输入输出能力强，架构独特，在多基准测试领先，支持工具调用，多家服务商已集成。

普林斯顿和伯克利研究定义“机器胡扯”，指出大模型胡扯问题。蚂蚁集团旗下蚂蚁密算在2025 WAIC提出高阶程序（HOP）框架，为大模型注入规则，还开源此框架，其在多行业场景应用效果良好。