「并行优化」共找到 1408 篇相关文章
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
AI Agent平台Sedai获2000万美元融资，主打云优化
AI Agent平台Sedai获2000万美元B轮融资，由AVP领投。它聚焦云优化，用智能体取代人工运维，节省成本。产品应用广泛，核心能力突出，2024年收入增长7倍，计划扩平台、引新功能、扩市场团队。
Container Use：一种用于独立的并行编码代理的新工具
Dagger团队发布开源工具Container Use，为AI编码代理提供容器化沙箱和Git工作树，实现无冲突并行工作流。它能创建隔离开发环境，让开发者在同一代码库安全运行多代理。不过该工具尚处早期，有不足。此外还介绍了其他类似工具。
150%训练效率提升：感知检测小模型训练优化方法
文章基于业务实践，总结感知检测小模型在不同算力卡上的训练方法，为智能驾驶场景提供借鉴。介绍测试环境、技术架构，分析环境依赖冲突、源代码适配等问题并给出解决方法，还提及性能优化及测试结果。此外还介绍用 RAGFlow 构建私有知识问答应用。
2.1K星CCPM：多Agent任务，流水线一样并行Coding
CCPM基于GitHub Issues + Git worktrees，有严格五阶段流程。多agent负责同一issue不同子任务，实现任务级并行，最高提升3倍交付速度，75%降低Bug率，还能避免上下文丢失等问题，有详细工作流程和命令。
科研的回归：AutoSOTA如何终结“增量式优化”的重复劳动
当前AI科研中，为提升性能指标，研究者投入大量精力做“增量式优化”，限制原创探索。AutoSOTA项目由清华与中关村学院联合发布，它基于智能体系统构建自动化方案，接管实验迭代，一周发现105个SOTA模型，推动科研回归原创。
OpenAI 开发者的 Skill 经验：如何使用评估系统来优化 Skill
文章聚焦 OpenAI 开发者优化 Skill 的方法，指出迭代 AI 技能效果难测，可借助评估系统。介绍了用 Codex 评估的流程，包括明确标准、创建技能、手动触发找漏洞等，还提及不同阶段的评估重点和工具。
谷歌与OpenAI对狙，Gemini主打极速性价比，GPT优化对话温度
谷歌与OpenAI对狙，谷歌发布Gemini 3.1 Flash - Lite，主打规模化性价比，专为高频场景设计，成本低、速度快；OpenAI上线GPT - 5.3 Instant，优化对话体验，减少拒答、增强联网搜索等。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
网站GEO技术端优化指南：案例+工具+免费检查清单【转推】
文章指出当前处于传统搜索到AI搜索转型期，Google仍是主流。介绍Google和ChatGPT流程差异，给出抓取、索引、曝光优化建议，还列了该做与不该做之事，并有免费检查清单。