在离线混部」共找到 8177 篇相关文章

产品应用8

当 GPU 成为主角:解锁 AI 集群中那 85% 的闲置 CPU 算力

全球AI算力规模增长,GPU成主角,但GPU满负荷运转时CPU利用率低,传统调度机制无法保障优先级,造成资源浪费。TencentOS如意(RUE)的在离线混部技术改造Linux内核调度体系,高效释放算力。

InfoQ
算法论文8

ICDE 2026 | 从匹配困境到推理突破:阿里REG4Rec 激活生成式推荐的个性化潜力

阿里国际智能技术团队提出生成式推荐模型 REG4Rec,从表征学习、训练目标和推理策略层面设计,提升推理能力与稳定性。离线实验表现优,已 Lazada 部署,带来显著商业收益,成果被 ICDE 2026 接收。

机器之心
开源动态8

腾讯开源最强3D生成模型,消费级显卡就能跑 | CVPR

CVPR上,腾讯元3D 2.1模型宣布开源。相比前一代,它实现几何与纹理双重优化,纹理贴面提升大,达当前开源3D模型SOTA水平。全链路开源,适配消费级显卡,Hugging Face下载量超180万。

量子位
算法论文8

李飞飞又被超越了?百万「普通视频」打造通用4D世界模型!

全行业为昂贵多视角数据发愁时,中科院和CreateAI推出NeoVerse,用百万单目视频打开4D世界模型大门。它抛弃多视角数据和离线预处理,解决扩展性瓶颈,重建速度、生成质量等方面表现出色,有丰富下游应用。

新智元
产品应用8

MoE不够看了,腾讯推出MoT:2B具身模型22项评测16项最佳

腾讯元团队联合Robotics X实验室推出HY - Embodied - 0.5系列基础模型,含MoT - 2B和MoE - 32B两款主力模型。22项评测中,MoT - 2B获16项最佳,其架构、数据和训练有创新,能应用于机器人控制。

量子位
新闻资讯7

腾讯披露元宝已是TOP3应用

2025腾讯全球数字生态大会信息量大。腾讯元宝日活冲前三,元3D建模精度提升3倍。C端产品逐步落地B端,如腾讯云CodeBuddy等。腾讯云还将带成熟生态出海,投资1.5亿美元沙特建数据中心。

量子位
推荐文章8

陶哲轩:我差点江郎才尽,只因普林斯顿待了一年

菲尔兹奖得主陶哲轩与播客主理人访谈中称,普林斯顿埋头搞学术让他灵感枯竭,数学家需生活琐事激发想法。还探讨科学研究,如开普勒定律、AI数学研究的应用、科学评估等问题。

量子位
新闻资讯7

马斯克 SpaceX 还没把数据中心送上太空,中国 GobiX 已戈壁落地

SpaceX招股书指出AI发展受地球电力短缺制约,马斯克欲把AI数据中心建到太空。而中国远景科技集团打造AI电力系统,实施“Mission Gobi”计划,利用戈壁风光资源建绿色AI算力中心,且已内蒙古落地实践。

AI科技评论
产品应用7

PDL SGLang Kimi K3 中的应用

文章介绍 PDL SGLang Kimi K3 中的应用,K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、 bs=1 decode 中解决的问题,阐述计算链和通信链上的应用,还提及性能数据和实现问题。

GiantPandaLLM
算法论文7

The Batch: 939 |推理阶段学习长上下文

大型语言模型处理长上下文时通常准确性降低、速度变慢,研究人员提出TTT - E2E方法,通过推理时训练模型将上下文压缩到transformer权重中,还展示了其运作方式、测试结果等。

DeeplearningAI