「图层拆分」共找到 684 篇相关文章
记录下SGLang 开发，debug的几个技巧第二弹
作者BBuf继上次分享后，又带来SGLang开发、debug新技巧。包括开启多线程加载模型权重，介绍SGLang Serve模型短期和长期崩溃的调试方法，还提及逐层NVTX Profiling、查看固定batch_size下Decoding性能等技巧。
死磕即梦48小时，我发现了AI公众号封面的懒人密码
作者与即梦Agent死磕48小时，分享AI公众号封面制作经验。介绍垫图法、两个提示词模板，测试提示词反推、语义理解等功能，指出不足，认为即梦像AI作图界拼多多，瑕不掩瑜。
为 OpenAI 秘密提供模型测试， OpenRouter 给 LLMs 做了套“网关系统”
OpenRouter成立于2023年初，为用户提供统一API Key调用各类模型，OpenAI会用其秘密测试。平台token用量高速增长，还发布模型用量排行榜引关注。创始人认为大模型非赢家通吃，未来想成agent最佳推理层。
破局大模型推理困局！华为张君详解昇腾“融合算力”的优化秘籍
华为高级开发工程师张君在AICon大会演讲，围绕大模型推理优化，从模型、框架、算子层展开，结合案例阐述技术方案。分析大模型推理现状挑战，介绍加速技术，分享昇腾硬件算子优化实践及通算融合算子优化方法。
2499 元产品背后：地瓜机器人将智驾 know-how 转为机器人新解法
AI重塑机器人技术边界，具身智能成新战场。地瓜机器人从地平线拆分，将智驾经验用于机器人。它提出大小脑分层架构落地更快，还推出RDK S100套件，搭建具身智能底座应对数据和应用难题。
高考第一天，用豆包修图3.0花式「整活」送祝福，已原地笑翻！
豆包的一句话P图功能进化，其图像编辑模型SeedEdit 3.0全量上线，AI修图进入3.0时代。用自然语言就能精准编辑图片，在文字编辑、局部修改等方面表现出色，还突破以往模型瓶颈，成设计师利器。
微软 CEO 萨提亚·纳德拉：智能体即产品，SaaS 已死？
微软 CEO 萨提亚·纳德拉在 Build 大会后接受专访，称正经历软件与智能范式巨变，AI 驱动的智能体网络将重塑企业软件未来，SaaS 会融入其中。他还分享了 AI 时代软件与商业模式变革的核心洞察。
开源仅1个月斩获 20.4K Star！AI 绘画到了"IDE 时代"？
本文介绍了开源仅一个月就收获20.4K GitHub Star的AI创作项目ArtCraft，针对现有AI出图随机性高、可控性差的行业痛点，推出IDE式可视化创作工作台，实现AI创作前置可控，整合多类AI模型生态。
一万字Jev 工程实践长文：把 Agent 的“判断题”从大模型里拆出来
本文是一万字Jev工程实践长文，作者结合自研落地Demo，拆解Jev核心设计逻辑，讲解如何将Agent中高频封闭的判断任务从大模型生成链路拆分，解决Agent上下文膨胀痛点，分享工程实现与选型思路。
跟上 AI 的节奏：为演进式架构构建上下文存储库
本文探讨AI辅助开发带来的上下文认知断层问题。在开发中，AI前期提效但后期难题凸显，企业面临团队执行和管理层决策层面隐患。可通过融合三大工程规范构建上下文存储库解决，确保开发逻辑可控。