「自蒸馏微调」共找到 1416 篇相关文章
香港中科院发布聆音大模型，400万张图喂出个“AI超声神医”
中国科学院香港创新研究院发布超声大模型“聆音”，用超400万张图像的超声数据集，经自监督学习训练。它在多项诊断任务破纪录，临床效果佳，还将模型等开源，有望推动领域发展。
苹果端侧AI两连发！模型体积减半、首字延迟降85倍，iPhone离线秒用
苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」，首字延迟压到竞品1/85；后者突出「轻」，体积减半。模型和Demo已开放，开发者可集成开发。
招聘最猛的竟不是OpenAI！这家陷入间谍案的HR初创，正在狂招工程师
自2022年11月ChatGPT推出，美国技术岗变化大。虽裁员潮缓解但新增岗位有限，竞争激烈。资深职位主导招聘，AI工程师需求旺，旧金山湾区优势明显，大厂任职年限拉长，远程岗位比例下降。
KDD 2025 Best Paper Runner-Up | EI-BERT：超紧凑语言模型压缩框架
香港城市大学王茂林等提出 EI - BERT 框架，解决移动设备部署 NLU 模型难题。通过硬令牌剪枝、交叉蒸馏、模块化量化，实现 99.5% 压缩率。在多任务中表现出色，已在支付宝大规模应用。
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。
该工作引来马斯克回复，让Gork破防：CoT是真正的推理，还是训练数据的统计插值？
大型语言模型（LLMs）的思维链（CoT）推理能力被视为突破性进展，但论文揭示CoT可能只是数据分布内的模式匹配幻象，通过实验证明其在分布偏移时表现急剧退化，挑战主流认知。
The Batch: 855 | 为智能体而生
总部位于北京的 Moonshot AI 发布 1 万亿参数的 Kimi K2 系列大语言模型，包括预训练和微调版本。它输入输出能力强，架构独特，在多基准测试领先，支持工具调用，多家服务商已集成。
狂涨 7.4K star！！一款堪称开源监控新标杆的项目，谷歌、字节都点赞，牛皮！
介绍开源监控工具 Checkmate，它由 BlueWave Labs 开发，主打“自托管 + 全功能 + 易上手”，功能强大、性能卓越、灵活易用，已获 7.4K star，受大厂工程师青睐。还介绍了其功能特色、安装方法。
一篇95页最新80种Deep Research系统全面综述
浙大研究深度研究系统领域，分析自2023年以来80多个实现，提出4维度分层分类法，全面剖析4种实现架构，如单体、流水线、多智能体和混合架构，并阐述各维度演变与进步。
亚马逊Alexa+助手用户数量超过100万
Techcrunch消息，亚马逊升级版AI助手Alexa+自2025年2月推出后用户稳步增长，6月底未全面公测时已超百万。它体验个性化，有新能力，还能促使用户行动，初步合作多知名平台。