「自蒸馏策略优化」共找到 2060 篇相关文章
多智能体自主规划模式性能提升：五大精准策略详解
本文基于多智能体React模式实践，剖析自主规划架构挑战，如工具调用延迟等。提出五大优化策略，像用流式XML替代FunctionCall、合理压缩上下文等，还介绍创意加速器AI绘画创作功能，为多智能体规划模式提供借鉴。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
极致优化Android平台APK的大小
文章以Android为例，介绍UE包可裁剪部分的优化思路与实践，优化APK大小和Native库运行时内存占用。从压缩NativeLibs、代码体积优化、资源裁剪等方面着手，还给出优化效果和额外资料。
Karpathy刚开源的autoresearch，我拿来优化龙虾skill，成功率从56%飙到92%
Karpathy发布开源项目autoresearch，可让AI优化AI。作者分享用其优化skill的实践，介绍优化流程，指出可将模糊表述拆成可判断是非题，还提及定义评估标准的方法与常见错误修正。此外，还能用于代码性能优化。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
告别通用具身模型崇拜：具身智能走向异构策略编排
当VLA、WAM等机器人控制策略在各自任务中表现出色，如何为子任务匹配合适策略成完成复杂长时序任务关键。RoboHarness解决异构策略协同难题，通过协同调用策略提升成功率。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
无需再训练即可增强性能！港大团队提出GPC框架，实现机器人「策略组合」
在机器人学习领域，提升策略性能常需巨额成本。香港大学团队提出GPC框架，通过“策略组合”创造超越单一父策略的“组合策略”，免训练且跨架构、模态融合，经仿真和真机实验验证性能提升。
AST | 西交大刘子扬、陈刚等：直接嵌入流场特征的智能化气动外形优化经验学习框架
传统气动外形优化方法有局限，本文提出智能化优化经验学习框架，结合DNN流场预测模型与DRL优化方法，还提出自适应网格再生成技术与Sigmoid奖赏函数，经验证效果良好，为气动优化提供新路径。
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR，针对Fused Triton MoE的Down Projection kernel加入TMA优化，在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著，还详细分析了优化背景、思路、实现细节及测试结果。