「系统优化」共找到 2790 篇相关文章
斯坦福：优化器「诸神之战」？AdamW 凭「稳定」胜出
斯坦福大学 Percy Liang 团队研究指出，虽有不少声称能显著加速的优化器替代方案，AdamW 仍为预训练稳健首选，但矩阵型方法在特定数据–模型比例下优势明显。研究还揭示了现有研究的方法论缺陷。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
Agent 时代启示录: 当 Agent 作为新物种加入经济系统
文章指出 Agent 时代正颠覆传统互联网分析框架，如 To B/To C 边界模糊、付费逻辑转变等。软件形态也在重写，Agent 成新物种加入经济系统，还探讨了 Agent Harness 商业机会，如 Runtime、Context、Orchestration 层。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
AI Agent平台Sedai获2000万美元融资，主打云优化
AI Agent平台Sedai获2000万美元B轮融资，由AVP领投。它聚焦云优化，用智能体取代人工运维，节省成本。产品应用广泛，核心能力突出，2024年收入增长7倍，计划扩平台、引新功能、扩市场团队。
评论送书 | 想系统了解AI？先搞清楚这四件事
文章围绕系统了解AI需搞清楚的四件事展开，介绍了AI理论基础层的机器学习和深度学习，感知交互层的计算机视觉等，应用实践层的机器人学等，还提及伦理社会层的AI伦理和社会影响研究。
150%训练效率提升：感知检测小模型训练优化方法
文章基于业务实践，总结感知检测小模型在不同算力卡上的训练方法，为智能驾驶场景提供借鉴。介绍测试环境、技术架构，分析环境依赖冲突、源代码适配等问题并给出解决方法，还提及性能优化及测试结果。此外还介绍用 RAGFlow 构建私有知识问答应用。
二创党福音！基于AI的开源智能视频切片处理系统
AutoClip是基于AI的开源智能视频切片处理系统，能自动从多平台下载视频、提取精彩片段并生成合集。适合UP主、内容创作者等，有多平台支持、AI智能分析等特性，部署方式简单。
具身智能开始卷系统了：RoboFoundry让机器人自主进化
多家国内外高校和机构提出全新具身智能框架RoboFoundry，固定基座模型参数，仅进化模型周边的系统组件，实现具身智能体自主迭代升级，多项基准测试和真机实验性能提升显著。
Anthropic实践发现：Multi-Agent系统的核心仍然是Prompt设计！
近期Anthropic分享构建多智能体研究系统最佳实践，提出8条研究智能体的提示工程与评估原则。其架构采用协调者 - 工作者模式，与传统RAG方法不同，使用多步骤搜索动态查找信息。