「概念蒸馏训练策略」共找到 2511 篇相关文章
谢赛宁等推出统一多模态模型！替代VAE实现图像理解/生成双SOTA，代码权重数据集全开源
谢赛宁等团队推出统一多模态模型Blip3 - o，用扩散Transformer生成CLIP图像特征，采用顺序预训练策略。对比多种设计方案，确定CLIP + Flow Matching最佳，模型在多任务测试表现卓越且全开源。
独家｜前蔚来AI平台负责人白宇利创立「补天石科技」，聚焦具身数据 Infra 方向
前蔚来AI平台负责人白宇利创立上海补天石科技，聚焦具身数据Infra方向。该公司为机器人模型训练提供高效工程体系，首轮融资由红杉领投，团队正处早期组建阶段。
Sora2甚至可以预测ChatGPT的输出
Sora2表现太卷，能预测ChatGPT输出，模拟交互还能渲染HTML，懂代码也懂物理，能体现玻璃折射现象，还能精准还原游戏支线任务关键要素，或基于LLM训练。
ChatGPT这次对数学教育动了真格，家长学生都不用愁了
OpenAI针对数学和科学学科抽象难学问题，推出ChatGPT动态可视化交互解释新功能，从超70个核心概念起步，可让用户拖动变量、调整公式，实时观察结果变化，今日面向全球已登录用户开放。
喊话谷歌、OpenAI，微软AI CEO亮出「人文超级智能」底牌
微软AI CEO苏莱曼称AI已超越人类，他在组建微软超级智能团队时提出「人文主义超级智能」概念，认为超级智能发展有风险，要确保AI站人类一边，还看好其在医疗领域应用。
史上最全的AI rag技术来了！
本仓库用常见Python库讲解检索增强生成(RAG)技术，将其分解为易懂实现。包含一系列Jupyter Notebook，涉及20多种RAG技术，还介绍了核心概念、快速开始步骤等。
细粒度视觉推理链引入数学领域，准确率暴涨32%，港中文MMLab打破多模态数学推理瓶颈
香港中文大学MMLab团队发布MINT - CoT视觉推理方案，解决多模态数学推理难题。它引入特殊Interleave Token，构建专属数据集，采用三阶段训练策略，实验效果全面超越现有方法。
Alibaba开源WebDancer解决DeepResearch复杂信息检索难题
Alibaba开源WebDancer，从数据和训练阶段出发提出端到端自主信息检索代理构建范式。实验中，它在GAIA和WebWalkerQA基准测试表现出色，处理复杂信息检索优势显著。
ICLR最佳论文：Transformer天生简洁
2026年ICLR最佳论文对Transformer做深度思维体检，指出其架构真正威力在于描述概念时比RNN等简洁指数级甚至双重指数级，但验证其内部逻辑计算成本高昂，为解释其能力开新窗。
黄仁勋暴论核弹：AGI已经实现，Ilya错了，程序员有10亿
在Lex Fridman的专访中，黄仁勋抛出诸多惊人观点，如称已实现AGI，反驳Ilya“预训练触顶”言论，认为推理计算难且重要，还对未来技术、行业、职业发展等多方面进行展望。