「并行 - 蒸馏 - 精炼」共找到 363 篇相关文章
Agent也能蒸馏了！性能超好
大模型运行成本高，普通用户用不起。传统小模型模仿大模型解题步骤易出错。论文提出Agent蒸馏，让小模型学会用检索和代码工具，还加首思前缀与自我纠错“外挂”，使小模型性能直逼大模型。
马斯克翻车了！一边告OpenAI，一边偷偷蒸馏ChatGPT
4月30日，加州奥克兰联邦法院，马斯克诉OpenAI案进入第四天。马斯克承认自家Grok模型部分蒸馏了ChatGPT，还为AI公司排名，xAI垫底。法官拦下讨论AI灭绝话题，下周OpenAI联合创始人将出庭。
SmartSearch：奖励驱动query精炼，让Agent中的RAG会“改错”
现有LLM搜索Agent忽视‘如何提问’致答案易出错。SmartSearch提出‘过程奖励+查询精炼’双机制，让Agent学会‘写不好就改’，代码已开源。经实验，它在六数据集全面领先，各机制缺一不可。
Container Use：一种用于独立的并行编码代理的新工具
Dagger团队发布开源工具Container Use，为AI编码代理提供容器化沙箱和Git工作树，实现无冲突并行工作流。它能创建隔离开发环境，让开发者在同一代码库安全运行多代理。不过该工具尚处早期，有不足。此外还介绍了其他类似工具。
北大、字节、中科院自动化研究所等提出图像并行生成新范式
北大、字节等团队发现多模态模型先思考后作画会降低图像语义保真度，因自回归架构有误差传播问题。为此提出并行多模态扩散框架MMaDA - Parallel，构建ParaBench基准，多项优化后在测试中击败Bagel。
2.1K星CCPM：多Agent任务，流水线一样并行Coding
CCPM基于GitHub Issues + Git worktrees，有严格五阶段流程。多agent负责同一issue不同子任务，实现任务级并行，最高提升3倍交付速度，75%降低Bug率，还能避免上下文丢失等问题，有详细工作流程和命令。
Megatron 1F1B流水线并行中的负载不均衡问题研究
文章分析Megatron 1F1B流水线并行中负载不均衡问题。通过实验发现通信时间‘一短一长’，原因是最后一个Stage计算慢致不同步，额外计算引发通信延迟，还梳理了流水线各阶段执行过程。
并行扩散架构突破极限，实现5分钟AI视频生成，「叫板」OpenAI与谷歌？
近日，CraftStory 推出 Model 2.0 视频生成系统，凭借并行扩散架构破解视频时长难题，可生成长达五分钟视频。其由 OpenCV 创建者 Victor Erukhimov 创立，此次突破或为企业带来商业价值，还计划开发新模型。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
Claude最强Fable 5.1发布！8项屠榜，最高降价45%，反蒸馏机制上线
Anthropic发布Fable 5.1和Mythos 5.1，8项基准测试夺冠，价格最高降45%。展示科研成果，如蛋白质设计、生成金星地图等。上线反蒸馏机制，防止篡改上下文，还给出替代方案。