「GPU 虚拟化」共找到 1281 篇相关文章
容器可观测新视角: SysOM延时监控助力定位业务抖动原因
云原生场景下,资源超卖和混合部署使宿主机与容器化应用资源竞争加剧,引发内核级延迟问题。本文结合实战案例,介绍用ack - sysom - monitor Exporter分析定位内核延迟,还介绍了SysOM监控及解决系统延时的方法。
Shopee OnePiece:业内首个融合上下文工程、隐式推理和多目标训练策略的生成式搜推建模框架
2025年生成式推荐发展火热,但工业界落地多在序列化建模,替换传统范式遇阻。Shopee傅聪团队联合人大高瓴学院提出OnePiece范式,是业内首个融合多策略的生成式搜推建模框架,含上下文工程、隐式推理和多目标训练策略。
别只做skill了,都去做插件吧
Claude Code的插件系统上线,解决了配置难分享、版本化和审核的问题。它将已有能力标准化,介绍了插件与独立配置选择、上手步骤、可装内容、测试方法、提交市场及从独立配置迁移等内容,还提及其他软件推插件市场。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现(v1 和 v2),前者从 vLLM 移植,后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容,还对比了两代差异,并提及相关环境变量。
Sora 2 App 上手体验攻略,附Sora AI视频
本文是Sora 2 App上手体验攻略。Sora 2 PC版能依提示词生成精美电影感视频,还可创建虚拟形象;App交互似抖音,能录制上传自身形象生成视频。其生成视频镜头自然,有“AI导演感”,但目前时长较短。
众安信科参与打造宠物数字身份证 重磅亮相2025外滩大会 | 甲子光年
2025外滩大会上,众安保险与众安信科联合推出“NFT宠物数字身份证”外滩大会限定款,将RWA代币化技术与宠物健康管理结合。众安信科深度融合RWA与AI技术,打通宠物服务全链路,构建新生态。
下周聊:当搜索成为标配,AI 产品都在怎么用搜索?
AI搜索成chatbot标配,产品接入后有新场景也有新问题,用户使用习惯也有变化。创业者需考虑产品初期是否及如何接入搜索。博查为AI供技术服务,下周四邀相关人士线上聊AI产品搜索应用,可扫码报名。
为什么 DeepSeek 大规模部署很便宜,本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡,受批处理大小影响。还分析了不同模型需大批次的原因,如专家混合模型、大型管道模型等。
AI Agent时代的「AWS」:Manus 背后的重要功臣 E2B 是何来头?
文章介绍 E2B 这一开源基础设施,它为 Manus agent 提供虚拟电脑支持,允许在云端安全沙盒运行 AI 生成代码。其沙盒月创建量一年增 375 倍,CEO 目标是成 AI Agent 时代的 AWS,还探讨了 AI Agent 相关问题。
macOS Harness:AI 自己写代码,操作你的整台 Mac
macOS Harness 是 browser - use 团队开源项目,目标是让 LLM 用持久化 Python 进程完成 Mac 上几乎所有任务。它仅提供六个原始操作,模型用其操作应用,还能在运行中补全缺失部分。项目有诸多优势,目前仅支持 macOS。