「概念蒸馏训练策略」共找到 2515 篇相关文章
刚刚，全球首个GB300巨兽救场！一年烧光70亿，OpenAI内斗GPU惨烈
为争夺有限GPU，OpenAI内部争斗激烈，2024年算力投入70亿美元仍不够。微软发布全球首台GB300超算专供OpenAI，可让万亿LLM数天训完。OpenAI建立资源分配机制应对挑战。
震撼，世界模型第一次超真实地模拟了真实世界：谷歌Genie 3昨晚抢了OpenAI风头
昨晚谷歌DeepMind宣布Genie世界模型到第3代，能通过单个文本提示词创建交互式、可玩环境。它在多方面优于前代及其他模型，具备构建完整世界能力，但也存在动作空间有限等局限，未来应用值得期待。
OpenAI分享了一份上下文工程实用指南。
OpenAI产品负责人Miquel联合Piotr发布Context Engineering深度指南。介绍了Context Engineering概念、6种核心上下文，指出RAG只是其中一环，还讲述信息检索的多种范式及上下文组装方法。
清华-腾讯联手：音频 - 视觉多模态任务统一框架
Crab是人大、清华和腾讯合作论文提出的模型，目标是高效一统多模态场景理解任务。它解决了音频 - 视觉理解模型任务干扰、合作显式化不足等难点，通过构建数据集、设计结构和统一架构实现多任务合作。
95后北大校友挑起ChatGPT Agent大梁！今年刚博士毕业，曾获陶哲轩支持的AIMO第二名
OpenAI发布ChatGPT Agent项目，奥特曼重视有加，让两个华人挑大梁。孙之清从技术介绍强化学习训练，Casey Chu谈人类与Agent合作。孙之清是95后北大校友，Casey Chu领导过GPT - 4视觉输入原型开发。
「CV 铁三角」落定Meta，视觉 AI 如何向多模态演进？
Meta 高薪挖来「CV 铁三角」引关注，其研究成果与视觉 AI 向多模态演进路径高度贴合。他们过往十年协作，研究涵盖 S4L、BiT、ViT 等，构建起现代多模态 AI 基础框架。
模型压缩与量化：让大模型走向轻量化落地
文章介绍模型压缩与量化技术，其能在保持性能时降低大模型计算和存储需求，实现边缘设备高效部署。还阐述基础知识、关键技术路径、应用场景，并探讨未来发展方向。
揭秘 GitHub 11.1k 让你的存储秒变“万能盘”？JuiceFS：最好用的存储系统能为你带来怎样革命性的提升？
云存储成本高、性能差等问题让人烦恼，JuiceFS 可零代码改造，将对象存储升级为高速共享文件系统。它功能丰富、架构有优势，代码示例简单，适用于多场景，相比竞品优势明显。
机器人顶会RSS 2025奖项公布！大牛Pieter Abbeel领衔研究获杰出Demo奖
机器人顶会 RSS 2025 于 6 月 21 - 25 日在美国洛杉矶举行，公布多个奖项。如杰出 Demo 奖论文提出 MuJoCo Playground 开源机器人学习框架，简化全流程，可分钟级训练策略。
刚刚，OpenAI开放GPT-4.1偏好优化DPO，ChatGPT能真正学会你的「品味」了！
OpenAI宣布GPT - 4.1全系列模型支持DPO微调，可让AI通过对比回答学会用户偏好。介绍了DPO原理、适用模型、数据格式、创建任务方法等，还提及开发者反应与技术要点。