「反蒸馏机制」共找到 1142 篇相关文章
对话27岁博导张林峰:模型压缩获CVPR满分有点意外,上海交大像我这样年轻老师很多
上海交大27岁博导张林峰团队在模型压缩领域成果丰硕。其提出的数据集蒸馏方法获CVPR 2025满分,还在多方面探索模型加速,成果已开源。张林峰认为数据蒸馏会成模型压缩趋势,也分享了知识蒸馏阶段看法。
让NCCL性能起飞的symmetric memory是啥黑科技?— part2
本文是NCCL 2.27新特性系列的第二部分,主要分析symmetric primitives的实现机制,介绍其提供的接口,如获得symmetric ptr、barrier、send、recv、llEpoch控制等接口,还解析了底层结构内存布局、各接口工作机制及LL Buffer划分机制等。
AI编程「反直觉」调研引300万围观!开发者坚信提速20%,实测反慢19%
非营利性 AI 调研机构「METR」对 AI 编程工具影响开发者效率进行随机对照实验,结果意外:开发者本坚信提速 20%,实测却慢 19%。还分析了原因,指出调研局限与未来展望。
The Batch: 950 |反数据中心运动持续升温
全美反对新建数据中心的声音不断扩大,人群通过立法表达不满,部分案例还出现暴力行为。反对理由包括电价、能耗等问题,约640亿美元项目被阻或延迟,新一代数据中心正采用更环保设计。
灵码+Qwen3-Coder——使用Skill机制实现代码审核
本文探讨在灵码内使用Claude Skills能力,介绍其实现机制、灵码适配方案。还以代码审核场景为例,展示自定义Skill的创建方法,总结Claude Skills优势及应用场景,展望其与MCP的发展前景。
TanStack Start 推出导入保护机制,强化服务器与客户端边界划分
TanStack Start引入基于Vite的导入保护功能,防止服务器与客户端代码相互泄露,默认在新项目启用。该功能以插件形式运行,开发和生产环境行为不同,还能添加自定义规则,用户反响积极。
浅析 Amazon S3 Files:工作机制、性能边界与选型思路
4月7日,AWS发布新服务Amazon S3 Files,可将S3存储桶作为高性能共享文件系统挂载到计算节点。本文分析其底层实现、工作机制、性能边界,与其他对象存储文件化方案对比,指出适用场景。
年前看到最有深度的AI下半场Agents记忆机制综述
本文是一篇83页的基础智能体记忆机制综述,由27家机构联合发表。提出AI研究范式转变,记忆是填补理想与现实差距的关键。构建三维统一分类框架,介绍记忆操作、学习策略、评估体系、应用场景及未来方向。
告别纯奖励试错!二次尝试+反思蒸馏,复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL,将「经验学习」引入强化学习,通过二次尝试和反思蒸馏,在复杂任务中性能显著提升,为构建长期自主智能体提供新思路。
熬夜后走神不是你的错,而是自救机制在“洗脑” | Nature
麻省理工学院研究揭示,熬夜后白天易走神是因大脑“洗脑”机制启动。正常“洗脑”在睡眠时进行,清理废物;睡眠不足时,白天也会启动,代价是注意力受损。此前波士顿大学也有大脑清洁相关研究。