策略内自蒸馏」共找到 1363 篇相关文章

8

中国游戏行业:产业结构、薪酬体系与核心人才需求分析

文章分析中国游戏行业,指出其已成为复杂数字经济体,2024年市场收入稳健增长。发展历经多阶段,AIGC等技术带来变革。商业模式以F2P与购为主,“研运一体”是关键。行业薪酬有竞争力但工作强度高,版号影响深远。

AI Reading Hub
开源动态7

让NCCL性能起飞的symmetric memory是啥黑科技?— part2

本文是NCCL 2.27新特性系列的第二部分,主要分析symmetric primitives的实现机制,介绍其提供的接口,如获得symmetric ptr、barrier、send、recv、llEpoch控制等接口,还解析了底层结构存布局、各接口工作机制及LL Buffer划分机制等。

GiantPandaLLM
技术文章7

让NCCL性能起飞的NCCL symmetric memory是啥黑科技?— part1

本文是NCCL 2.27新特性系列首篇,介绍symmetric memory。它类似NVSHMEM,现仅支持单节点通信,未来将支持跨节点。其低延迟核能提升小数据通信性能,还介绍使用示例、CUDA存管理及Symmetric Memory实现等容。

GiantPandaLLM
开源动态8

快慢思考不用二选一!华为开源7B模型实现自由切,精度不变思维链减近50%

华为发布openPangu-Embedded-7B-v1.1,参数7B却有双重“思维引擎”。采用渐进式微调策略和快慢思考自适应模式,可自由切换快慢思考,在多评测中精度提升,思维链减近50%。还推出openPangu-Embedded-1B小模型。

量子位
新闻资讯8

波士顿动力机器人终于有脑子了!人类故意使绊子也不怕

波士顿动力与丰田研究院联手基于大型行为模型,推出Atlas全新版本Atlas MTS。它能听懂自然语言指令、自主规划动作、处理意外。此次升级采用特定模型及策略,还结合VR界面。此外,波士顿动力转向电驱,电驱机器人时代将来临。

量子位
开源动态8

清华推出AI数学家!独立完成数学理论难题,自动调用基本定理、构建证明思路

清华团队推出AI Mathematician(AIM)框架,可将LRMs推理能力延伸至前沿数学研究。它由三大模块驱动,有两大核心策略。实验显示其能解决多个挑战性问题,虽有不足,但未来有望成数学研究核心驱动力。

量子位
算法论文8

阿里+清华发现80/20法则:LLM只靠20%的token就能学会Reasoning

阿里与清华研究发现,训练大语言模型(LLM)推理时,真正关键的是20%的高熵token,其余80%低熵token几乎无用。仅用20%高熵token做强化学习,效果超全量训练,还提出RLVR训练策略提升效率。

深度学习自然语言处理
推荐文章7

微软副总裁X上「开课」,连更关于RL的一切,LLM从业者必读

微软副总裁 Nando de Freitas 在 X 上「开课」,分享人工智能教育帖子,从 LLM 的强化学习讲起。容涵盖无监督、监督、强化学习定论,分布式强化学习系统构建,RL 用于后训练 LLM 等,还介绍单步强化学习与策略梯度及相关技巧。

机器之心
新闻资讯7

Alphaist 陈哲对谈蓝驰陈维广:AI 应用的机会在哪里?具身到底怎么投?

Alphaist 创始人陈哲与蓝驰创投管理合伙人陈维广在 AGI Playground 2026 上对谈,探讨 AI 应用机会与具身投资策略。谈到市场热度变化、SOTA 模型与用户需求差距等,也对应用层机会、估值逻辑、具身智能发展发表看法。

Founder Park
新闻资讯8

卡帕西入职Anthropic仅两月疑离职;日媒拆解宇树G1后认输:短期赶不上中国;腾讯317万年终奖员工被辞退:永不录用|AI周报

这篇 AI 周报涵盖诸多热点,如 AI 大神 Karpathy 入职 Anthropic 两月疑离职;Kimi K3 超越闭源模型引关注,美指控其蒸馏美模型;腾讯员工晒 317 万年终奖被辞退;360 首任董秘追讨股权;多家公司有模型发布、业务调整等动态。

AI前线