「步数蒸馏」共找到 599 篇相关文章
OpenAI 官方博客：用技能（Skills）加速开源项目维护
OpenAI用Codex改变维护OpenAI Agents SDK仓库方式，通过仓库本地技能、`AGENTS.md`文件和GitHub Actions，将工程工作变为可重复工作流，提升开发效率，还介绍了配置、技能架构及使用注意事项。
字节跳动：Apache Doris + AI 一站式融合数据引擎的探索与实践
本文整理自字节跳动 DataMind 负责人演讲，介绍了基于 Apache Doris 打造的一站式引擎 DataMind。它集成 Hybrid Search、AI Function、GraphRAG 等能力，部分成果已贡献开源，还给出企业级 AI 问数落地方案。
AlphaGo作者领衔，8个机械臂协同干活0碰撞，DeepMind新作登Science子刊
DeepMind等机构成果RoboBallet登Science子刊。它将图神经网络用于强化学习，可控制8个机械臂协同无碰撞工作。核心是结合图神经网络与强化学习，解决多机器人协作复杂问题，实验表现出色。
奥特曼反击挖走4人！Meta华人科学家在列，马斯克也躺枪
被挖走8人后，OpenAI反击。总裁称4人将加入，有Meta华裔科学家Angela Fan，还有3人来自马斯克旗下公司。此次有两名华人加入Scaling团队，OpenAI将加速使命惠及大众。
模型压缩与量化：让大模型走向轻量化落地
文章介绍模型压缩与量化技术，其能在保持性能时降低大模型计算和存储需求，实现边缘设备高效部署。还阐述基础知识、关键技术路径、应用场景，并探讨未来发展方向。
Zig 创始人直言，Bun 靠 Claude 生成的 Rust 重构版是“没人把关的烂代码”
Bun创建者用Claude智能体11天将Bun从Zig移植到Rust，虽通过测试，但Zig创始人Andrew Kelley批评其编程实践不规范，认为代码是‘没人把关的烂代码’，且AI生成代码缺监督会出问题。
重磅！翁荔最新Scaling Law深度洞察来了
北大毕业的前OpenAI高管翁荔（Lilian Weng）的《Scaling Laws, Carefully》值得一读。Scaling law是预训练预算表，能帮少烧错钱。文章探讨大模型训练预算分配，分析Kaplan和Chinchilla结论差异及数据稀缺问题。
Anthropic联创定下deadline：2028年AI实现自我进化，没有人类了
Anthropic联合创始人Jack Clark认为，到2028年底，递归自我改进发生概率有60%，即AI或能自主构建和改进自己。他基于公开AI开发数据和基准测试得出此观点，不过也有人提出质疑。
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
省下1.25倍算力！Kimi这篇论文，可能改写所有大模型的训练方式
大模型层数增多时，残差连接存在PreNorm稀释问题，导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案，还给出工程解法Block AttnRes，实验显示能省算力且提升效果。