开源动态7
SGLang Model Gateway 0.2:企业级AI编排新方案
AI工程化
AI 摘要
Oracle和SGLang团队推出SGLang Model Gateway 0.2,解决一体化AI原生编排难题。它核心能力升级,如多模型推理、Rust gRPC驱动等,架构清晰,部署灵活,还支持K8s集成与向后兼容。
阅读原文 · AI工程化
SGLang Model Gateway 0.2 发布:企业级一体化AI原生编排
市面上一体化AI原生编排方案稀缺,Oracle和SGLang团队推出SGLang Model Gateway 0.2。它从SGL - Router重构而来,核心能力升级,架构分三层,部署灵活,还支持Kubernetes集成和向后兼容。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章8
硅谷研讨:AI Agent落地成功的秘诀
来自硅谷一线AI创业者数据显示,95%的AI Agent在生产环境部署失败,原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容,探讨AI Agent构建关键,如上下文工程、安全控制、记忆功能等,并指出待解决问题和未来方向。
Founder Park
开源动态8
智谱「牛来」模型:国产开源多模态利器
神秘模型「牛来」真身曝光,是智谱刚开源的 GLM - 5.3 Flash,为 5 系列首个原生多模态模型。它尺寸小能力强、价格低,用国产卡,实测多模态和 Coding 能力出色,架构全新,开源后将模型、算力和生态结合。
量子位
开源动态8
Qwen3.8 - Flash - Next开源,SGLang首日支持
2026年8月26日,Qwen团队开源多模态MoE模型Qwen3.8 - Flash - Next,它是Qwen4架构早期预览版。SGLang在发布首日就提供完整支持,模型架构多方面升级,亮点众多,还给出启动命令及配置建议参考。
GiantPandaLLM
开源动态8
智谱、阿里新模型亮相,性能屠榜!
智谱发布GLM - 5.3 - Flash(牛来模型),原生多模态,支持1M token上下文,运行在国产芯片,价格实惠。阿里开源Qwen3.8 - Flash - Next权重,成本低性能优,在四大维度重构架构。
AI寒武纪