「SGLang Model Gateway 0.2」共找到 2619 篇相关文章
别再问什么工作被AI取代!Karpathy直指本质:你的工作「可验证」吗?
前特斯拉AI负责人Andrej Karpathy提出,软件1.0自动化能指定的任务,软件2.0自动化能验证的任务。判断任务能否被AI接管,关键看是否满足可重置、可高效试错、可自动奖励三条准则。
甲小姐对话黄伟:一边“找死”,一边活下去 | 甲子光年
云知声创始人黄伟创业13年、筹备上市5年,其经历反映中国AI企业生存真相。他分享云知声上市波折、战略选择、应对竞争策略等,如在‘等死’与‘找死’间抉择,认为市场分散利于创业公司,AI 2.0竞争更激烈。
阿里“悟空”上线!钉钉给企业送来龙虾大军
AI钉钉2.0年度新品发布会上,阿里发布AI toB旗舰应用“悟空WuKong”,它以企业智能体为核心,能落地办公场景。悟空开启全球邀测,也会内置到钉钉AI 2.0。它还带来行业解决方案,补齐安全短板。
Sora 2 即将发布?
OpenAI官方发预热推文,暗示Sora 2即将发布,众人纷纷猜测。有人认为它将超越Veo3,也有人保持冷静。此外,还爆料OpenAI正打造AI视频媒体平台,大家看法不一,有人期待,有人焦虑。
SGLang JIT Kernel 介绍
文章介绍SGLang JIT Kernel,此前开发CUDA Kernel流程繁琐、编译时间长,现基于TVM - FFI探索JIT开发加速迭代。文中梳理其机制、抽象及新增Kernel流程,还给出环境设置、目录结构等内容,并以实例说明开发过程。
滴滴出行MCP:全面解读滴滴MCP Server 的第一公里与最后一公里!
2025年8月1日,滴滴发布MCP Server v1.0.0,将运力能力抽象成JSON - RPC 2.0接口。开发人员四步即可嵌入完整闭环服务。MCP把运力‘云化’,还介绍了技术细节、安装使用、典型场景及开放限制。
DeepSeek又拿第一!首创「因果流」视觉推理,超越Gemini
DeepSeek开源DeepSeek - OCR2,引入DeepEncoder V2视觉编码器,打破传统模型扫描限制,模仿人类视觉「因果流」逻辑。它解决了传统VLM忽略图像语义结构问题,在多项测试中表现出色,还验证了「LLM作为视觉编码器」可行性。
SGLang-Diffusion: 两个月进展
自2025年11月初发布,SGLang - Diffusion获广泛关注。过去两月持续优化,速度提升1.5倍。介绍新模型支持、LoRA支持等进展,还展示性能测试结果,阐述关键改进及未来规划。
GPT-5.2来了…
OpenAI推出GPT - 5.2系列,是适合专业知识工作的模型。它在专业工作表现、编程能力、可靠性与安全性等多方面有提升,定价公布,已向付费用户逐步推出,此次更新重在夯实基础。
SGLang 中的 CUDA Graph 进阶指南
本文介绍 SGLang 构建 CUDA Graph 支持及改动。如 Runner/Backend 解耦与灵活组合;首创 Breakable CUDA Graph 并开源,能提高捕获灵活性;还实现 Prefill 的 Full CUDA Graph,同时介绍显存管理方法。