「概念蒸馏训练策略」共找到 2513 篇相关文章
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
Cursor终结者？Grok 4正式登顶！马斯克扬言编程碾压，20万N卡年赚47亿美金！
时隔5个月，xAI发布通用模型Grok 4，后续还将推三款模型。Grok 4上线，有三个订阅版本。马斯克称其智能超博士生，多项基准测试领先，编码或超Cursor。其性能强大源于训练投入和计算扩展。
拿着做数学题的 PRM 来评判 Agent 调用工具，基本是行不通的！
目前评估体系多为结果导向，在工具调用上缺乏像样的PRM基准。Arizona State University和Intuit AI Research研究者推出ToolPRMBench，指出用做数学题的PRM评判Agent调用工具行不通，还介绍了其构建方法、训练范式和实验结果。
清华姚班团队，开源具身智能视觉语言动作（VLA）模型工具箱，打造行业通用技术底座
清华姚班团队所在的原力灵机公司，开源了基于PyTorch的视觉语言动作（VLA）模型工具箱Dexbotic。它能打造通用底座，解决行业研发困境，其预训练模型表现出色，还与Hugging Face合作推出评测平台。
阿里开源DeepResearch模型，超强“AI研究员”，开启自主智能体新纪元
阿里巴巴通义实验室开源Tongyi DeepResearch模型，是全球首个性能能与OpenAI DeepResearch较量且全开源的Web Agent。它采用先进架构，有两套推理范式，训练方法论有创新，实测表现佳，应用场景广，用Apache - 2.0许可证。
梁文锋执笔的R1论文登上Nature封面！首次回应外界三大质疑
9月17日，DeepSeek创始人梁文锋通讯作者名义发表的DeepSeek - R1论文登《自然》封面。该模型借助强化学习自主形成推理能力，在Hugging Face下载量破1090万次。新版论文回应质疑，披露训练细节，虽有不足但引发学界关注。
超越O4-mini，多模态大模型终于学会回头「看」：中科院自动化所提出GThinker模型
现有多模态大模型在通用场景推理有瓶颈，缺乏对视觉线索校验与再思考能力。中科院自动化所提出GThinker模型，有创新的「线索引导式反思」模式，经两阶段训练，性能超O4 - mini，论文等已开源。
性能提升84%-166%！L-Zero仅靠强化学习解锁大模型探索世界的能力 | 已开源
招商局狮子山人工智能实验室团队用RLVR让模型“自学”，构建L0系统，含NB - Agent框架和端到端强化学习训练流程，开源相关内容。测试显示L0显著提升模型性能，展现强大泛化能力。