搜索：一致性蒸馏训练

「一致性蒸馏训练」共找到 2334 篇相关文章

关于现代GPU体系结构内存一致性（Memory Consistency）模型的一些猜想（二）——同步性能

文章聚焦GPU应用层面，通过实验对比不同同步代码实现的性能。在H20 GPU上测试，发现scope越小同步性能越好，内存屏障开销随scope增大而增加，还介绍非PTX及官方推荐实现方式并给出性能对比。

本文是对阿里通义千问Qwen多语言负责人杨宝嵩的专访。他透露Qwen一开始就将国际化视作核心战略，团队建立文化标注体系确保内容安全合规。还谈到多语言推理难题及应对策略，认为扩大模型规模和数据量仍重要，合成数据是延续Scaling Law的关键。

腾讯混元团队发布HY - WU范式，打破静态权重束缚，引入功能性记忆，实时生成个性化参数。应用于图形编辑基模效果好，在图像编辑任务表现优秀，还对未来AI架构提出多方面展望。

OpenAI创始成员Andrej Karpathy分享用Claude编程心得，工作流从80%手动变为80%由AI完成，阐述AI编程优缺点、影响，还对行业未来提出疑问，认为2026年是充满能量的一年。

OpenAI联手Retro Biosciences研发GPT - 4b micro用于蛋白质工程，让诺奖级细胞再生技术效率提升50倍，设计的新蛋白质还有DNA损伤修复功能，结果在多方面获验证。

大型语言模型（LLMs）的思维链（CoT）推理能力被视为突破性进展，但论文揭示CoT可能只是数据分布内的模式匹配幻象，通过实验证明其在分布偏移时表现急剧退化，挑战主流认知。

清华大学与生数科技联合研发Vidar模型，首次让通用视频大模型长出‘手脚’，实现从虚拟到真实世界物理执行的跨越。它降低数据门槛，突破跨本体泛化困境，为服务机器人应用奠定基础。

2025年WAIC上，无问芯穹联合创始人夏立雪带来AI落地新解——三个盒子，即无穹AI云、无界智算平台、无垠终端智能，是面向未来的智能基础设施设计，能打通从十万卡到一张卡的AI效能跃升路径。

OpenAI的Ryan Lopopolo分享Frontier团队工作方式，他们维护超百万行代码库，零人工编码和审核。实验产出Symphony，推动coding agent成“队友”。还探讨模型使用、构建速度、人类角色等问题，认为人成瓶颈，软件要适配模型。

国外网友疯传DeepSeek R2到R5的“重磅”消息，爆料内容层层递进且玄幻离谱。Anthropic联合创始人评价有认可也有轻视。当下闭源模型各领风骚，开源阵营期望集中在DeepSeek R2，应平常心看待传言。