自蒸馏策略优化」共找到 2064 篇相关文章

产品应用8

合合信息:基于 JuiceFS 构建统一存储,支撑 PB 级 AI 训练

合合信息为应对AI训练存储挑战,引入JuiceFS构建统一存储架构,结合BeeGFS作缓存。该架构提升I/O性能与资源调度效率,还通过缓存优化、数据治理等措施,支撑多业务并发,为AI基建奠基。

InfoQ
新闻资讯7

亚马逊100万机器人上岗!即将超越人类员工?机器人军团接管工作

亚马逊仓库迎来第100万个机器人,其机器人数量快与人类员工平分秋色。从机械臂到AI驱动的Vulcan,物流效率提升25%。公司推出DeepFleet优化路径,还让机器人与订单系统对接,但也引发裁员担忧。

新智元
推荐文章7

当 AI 开始重写负载,数据库该如何重新设计?

AI正改写数据库命题,新数据对象进入生产链路,AI Agent带来更复杂任务链路。在腾讯云数据库DBTalk上,三位研究员从不同方向探讨当负载被AI改写,数据库该如何重新设计,包括内核优化、资源管理和测试测评等方面。

InfoQ
推荐文章8

拿到DeepMind、Meta等多家Offer后,她把机器学习求职面试的真相写了出来

牛津大学博士生Silvia Sapora把机器学习求职面试经历原原本本写在博客中。她分享面试准备技巧、心态与谈判策略,提醒一次面试表现不定义研究者价值,该文对求职者或许比题库更有用。

机器之心
开源动态8

35B参数科学性能比肩万亿参数模型,『书生』科学大模型Intern-S2-Preview开源

5月15日上海AI实验室开源新一代大模型预览版Intern - S2 - Preview,尺寸小、科学能力强,在多方面有突破。其深化与昇腾算力生态协同,探索‘通专融合’,科学及智能体能力升级,还优化训推效率。

GiantPandaLLM
算法论文8

打破「数据暴力」预训练惯性,阿里Qwen、上交大等提出预训练动态数据选择范式OPUS

阿里Qwen、上交大等团队提出预训练动态数据选择范式OPUS,打破“数据暴力”预训练惯性。它将数据选择与优化器更新轨迹对齐,提升预训练效率与下游泛化表现,实验显示其“效率+性能”双提升。

机器之心
新闻资讯7

微软31年老员工被裁,六旬老将重新踏上求职路

新智元报道,微软31年老员工Mike Kostersitz被裁。近年AI重组其所在部门,致他命运改写。过去两年硅谷盛行裁员,AI浪潮下,有经验的技术人员首当其冲,像他这样的中层正被系统优化

新智元
算法论文8

EMNLP2025 | 解耦视觉与推理,港大探索视觉语言模型"眼智分离"新范式

当前大视觉语言模型处理复杂推理任务时,常过分依赖语言知识,忽视图像关键信息。港大等团队提出ProReason框架,其蒸馏的ProReason - VL和ProReason - Q3模型性能提升显著,为LVLMs发展提供方向。

深度学习自然语言处理
算法论文7

苹果出手!改进GRPO,让dLLM也能高效强化学习

苹果研究团队针对扩散语言模型(dLLM)在编码任务中表现不明的问题,基于7B级代码生成MDM DiffuCoder展开研究,定制优化GRPO提出coupled - GRPO算法,填补开源dLLM训练和推理机制空白。

机器之心
开源动态8

开源播客生成MoonCast:让AI播客告别"机械味",中英双语对话更自然!

MoonCast是革新性对话式语音合成模型,已开源。它借助LLM让剧本有干货与人味,采用全面规模化策略使音频合成更自然,性能在双语长对话播客上提升显著,接近真人播音效果。

量子位