「性能工程」共找到 2578 篇相关文章
CMAME|美国西北大学,德州大学|Wing Kam Liu及 TJR Hughes 等: LLM赋能的下一代计算机辅助工程
工程仿真里有限元方法常见,但计算与人力成本高。此研究提出把大语言模型变为计算机辅助工程智能体,开发不依赖训练数据的降阶求解器,在多问题上表现佳,为下一代计算机辅助工程提供框架。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践,涉及GPT - OSS、DeepSeek - V3等模型,采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术,在性能提升、减少延迟等方面效果显著。
Manus首次揭秘:Agent的关键在上下文工程
Agent成大模型主战场,构建方法待探索。Manus发blog揭秘,认为成功的AI Agent依赖上下文工程。团队选此实现快速迭代,虽实践不易,但总结出围绕KV缓存设计等关键点,其经验影响Agent表现。
Prompt、Skills、MCP:大模型上下文工程核心链路
文章聚焦大模型上下文工程,介绍了Prompt、Skills、MCP核心链路。Prompt是与模型沟通基础,但其有脆弱、难管等痛点,促使向上下文工程演进;Skills是能力单元,可显式化能力、动态组合;MCP解决能力集成问题,虽有争议但理念重要。
Agent工程化最佳实践,AICon深圳2026来了
8月21 - 22日,AICon全球人工智能开发与应用大会将在深圳举办。大会邀请产业一线专家,围绕Agent工程化等前沿方向,分享技术探索与工程实践,探讨AI从能力突破走向系统构建的新路径。
Meta 开源 Pyrefly,Rust 中的高性能 Python 类型检查器
Meta 开源处于 alpha 阶段的 Pyrefly,它是用 Rust 编写的高性能 Python 类型检查器,灵感源于 Pyre 等工具,旨在取代 Instagram 代码库的 Pyre。它性能出色,还计划今年夏天进 beta 阶段。
Harness 工程实践复盘:100% Cache 命中的 Agent 怎么设计?
本文是 ClackyAI 团队在 Harness 工程实践上的复盘。他们经两代失败后用 Ruby 重写第三代 OpenClacky,总结影响成本和效果的 7 个关键决策,如双 Cache 标记、System Prompt 字节冻结等,凸显 Harness 工程对 Agent 产品的重要性。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。
《动手写AI Agent》上下文工程:比 Prompt Engineering 更重要的事
文章围绕AI Agent的上下文工程展开,指出其比Prompt Engineering更重要。介绍了上下文工程的分层组织,包括角色定义、通用规则、项目状态和用户指令,还提及项目感知、.ling.md文件及完整System Prompt的组装。
华为+DeepSeek,推理性能创新高!技术报告也公布出来了
华为昇腾在部署超大规模MoE时推理性能创新高,全面超越英伟达Hopper架构。其采用‘以数学补物理’方式,还将全面开源。团队从多方面优化,在不同硬件上取得优异性能,本周还将举办技术披露周。