「概念蒸馏训练策略」共找到 2511 篇相关文章
只用2700万参数，这个推理模型超越了DeepSeek和Claude
Sapient Intelligence研究者受大脑机制启发提出分层推理模型（HRM），该模型仅2700万参数、1000个训练样本，就在复杂推理任务上超越DeepSeek和Claude等模型，还引入近似梯度等创新设计。
WSJ：中国AI公司用“飞行硬盘箱”规避美国芯片封锁
美国限制向中国出售先进AI芯片，中国公司想出新招，工程师带硬盘到海外数据中心训练AI，再将结果带回。企业还通过多种方式绕开封锁，同时东南亚数据中心崛起，中东也成新热点。
让AI学着“看菜下碟”！港中大等新框架让推理长度减少90%，准确率反增17%
香港中文大学等研究者提出TON选择性推理框架，使视觉语言模型能自主判断是否推理。该框架有两阶段训练机制，实验显示其让推理长度最多减90%，准确率还提升，有益模型部署。
揭示扩散语言模型扩展定律，人大高瓴团队与蚂蚁集团发布LLaDA MoE v2
中国人民大学高瓴人工智能学院与蚂蚁集团合作，首次系统刻画混合专家扩散语言模型扩展定律，据此训练LLaDA MoE v2，实现扩展效率与智能双重突破，将推动其迈向规模化时代。
一个超级搜索Agent开源，超低成本拉满搜索推理能力！小参数、慢思考。
MiroThinker 1.5发布，打响2026年AI模型进步第一枪。它以小参数实现高性能，解决信息雾霾、AI幻觉、决策无力等问题，通过交互式扩展和时序敏感训练沙盒技术，展现强大搜索推理能力。
你聊得很开心的AI女友，背后却是被当做耗材的肯尼亚小伙们。
肯尼亚小伙迈克尔应聘工作后，成了伪装AI的陪聊员。工作严苛，还得忍受不适内容。公司借此收集数据训练算法，他越努力就越快被替代，成了AI时代的‘耗材’。
NeurIPS 2025 | 北大联合小红书提出Uni-Instruct：ImageNet单步生图FID进入1.0时代！
北大联合小红书提出的 Uni - Instruct 框架被 NeurIPS 2025 接收，它统一超 10 种单步扩散模型蒸馏方法，在多项任务达最佳性能，还能用于文本到 3D 生成。
「微调已死」再添筹码，谷歌扩展AI自我进化范式，成功经验与失败教训双向学习
近期，‘微调已死’言论引关注。谷歌《ReasoningBank: Scaling Agent Self - Evolving with Reasoning Memory》论文提出类似概念，可让智能体从自身成败经验学习，还引入MaTTS，实验显示其有效性和效率优于基准方法。
香港中科院发布聆音大模型，400万张图喂出个“AI超声神医”
中国科学院香港创新研究院发布超声大模型“聆音”，用超400万张图像的超声数据集，经自监督学习训练。它在多项诊断任务破纪录，临床效果佳，还将模型等开源，有望推动领域发展。
OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首
AI“幻觉”是阻碍完全信任AI的关键障碍，目前无根治良方。OpenAI罕见发论文揭示其根源，指出标准训练和评估程序奖励猜测，应加大对自信错误的惩罚，奖励表达不确定性。