「服务化」共找到 1323 篇相关文章
为MoE解绑:全新「专家即服务」推理架构发布,超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长,MoE架构虽能避免计算量同比增,但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS,实验显示它能锐减37.5%成本。
一人公司创业,如何找对方法论、选准装备库?
AI让一人做产品更易,全国一人有限责任公司数量增长,相关服务生态成形。时踪由阿泰独立研发,从个人痛点出发做出产品,其95%云服务选阿里云。阿里云为OPC创业者提供阶段化“装备库”。
团队授权:分散化的架构决策
文章以黏菌创建网络为隐喻,探讨软件团队去中心化架构决策。介绍转型历程,包括重组团队、建立建议流程、创建上下文图等,阐述各环节作用、挑战与收益,强调其能提升决策质量与团队参与度。
Agent工程化最佳实践,AICon深圳2026来了
8月21 - 22日,AICon全球人工智能开发与应用大会将在深圳举办。大会邀请产业一线专家,围绕Agent工程化等前沿方向,分享技术探索与工程实践,探讨AI从能力突破走向系统构建的新路径。
支持持久化知识图谱!多Agent协同的革命性框架
Agent - MCP 是为经验丰富的 AI 开发者设计的多 Agent 协同框架,能解决传统 AI 开发难题。亮点有并行开发、持久化知识图谱和实时可视化协作,可让多 Agent 高效协作,避免上下文丢失和任务冲突。
通过架构建议流程实现架构决策的去中心化
Andrew Harmel - Law 在 Goto 大会提出架构建议流程,认为传统架构实践不可扩展,架构需去中心化。该流程让任何人可做决策,只需向受影响者和专家寻求建议,还提到失效模式及实践转变。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广,Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案,整合成模型网关,具备五项核心功能,提升了资源效率、稳定性和易用性。
Claude封杀龙虾后推自家Agent服务,又被开源平替了
Claude推出“企业版”服务Claude Managed Agents,是支持模块化组合的API套件,可帮企业构建和部署智能体。但刚发布就被开源项目Multica抢风头,后者在GitHub已获2.6k Star。
清华团队开源发布首个结构化数据通用大模型
2025年8月29日,清华崔鹏教授团队联合稳准智能开源“极数”(Limi X)结构化数据通用大模型。它融合结构因果推断与预训练技术,适配多任务,性能超最优专用模型,已落地多个工业场景。
GSD框架解析:解决AI编程工具Context Rot的工程化方案
文章介绍GSD框架,它旨在解决AI编程工具的Context Rot问题,通过Meta - prompting等方法将开发过程阶段化。提供常用命令稳定工作流,有实用新能力,适用于多种场景,以npm包部署,支持多平台。