异构资源调度」共找到 570 篇相关文章

推荐文章7

图解Vllm V1系列6:KVCacheManager与PrefixCaching

文章聚焦vllm v1,阐述调度器取请求时判断设备有无充足空间做推理的问题,涉及KVCacheManager与Prefix Caching。前者管理请求和块,后者通过找最长一致前缀节省显存,还介绍块分配释放策略与流程。

GiantPandaLLM
新闻资讯7

速戳!2026中国科幻大会北京未来数字空间创新试验区产业引领论坛亮点抢先看

2026第十届中国科幻大会将在北京首钢园召开,“北京未来数字空间创新试验区产业引领论坛”3月29日亮相。论坛有四大亮点,包括“街区式”创新平台亮相、“三重智能”协同勾勒技术路线等,还汇聚多方资源构建产业创新生态。

首钢园
新闻资讯7

聊一聊数据中心的投资现状

文章结合多份报告和访谈,分析国外大厂对IDC的态度。微软投资放缓,因资源消化、建设复杂等;OpenAI加速基础设施投入;其他巨头虽强调财务纪律,但核心AI投入未放缓,行业仍处增长早期。

芯师爷
新闻资讯7

当AI应用都在「撒钱」时,谁来扛住千亿交互背后的算力大考?

春节将至,AI应用竞争激烈,各大厂商纷纷「撒钱」。行业预测除夕当晚主流AI应用交互量或破千亿次,考验底层算力。Remy爆火时,共绩科技助其扛住流量冲击,其弹性算力调度优势明显,适合春节流量洪峰。

机器之心
7

14000人原地被裁!亚马逊今日:打工人水深,AI机器人火热

10月28日,亚马逊约1.4万名员工收到裁员通知,占全职员工4%,超80%来自零售业务。公司业绩不错仍裁员,是为用AI增效、资源重组,还押注具身智能,或取代超50万蓝领岗位。

量子位
推荐文章8

通用Agent长啥样

视频探讨大厂做基于命令行编程工具的原因,介绍命令行Agent,剖析其等于庞大工具生态、经典Unix组合哲学与现代AI调度能力,指出通用Agent骨架由AI大脑、命令行身躯和MCP感官构成。

newtype AI
新闻资讯8

美光财报:这一次,内存行业真的不一样了

美光财报表现亮眼,单季营收414亿美元,同比暴涨346%,毛利率从38%飙升到85%。AI让内存成战略资源,需求爆发,供给受限。美光扩产激进、技术进步快,有望进入‘以利润养扩产’正循环。

newtype AI
新闻资讯7

老黄再收95后华人才俊!4亿美元收购AI初创公司

英伟达老黄以超4亿美元收购95后华人王尚创立的AI初创公司CentML,员工全部打包带回。该公司能整合软硬件资源,可增强英伟达CUDA工具链。此前老黄已收购多家相关初创公司揽人才。

量子位
新闻资讯7

去往 Capital One 的俞栋,曾是 Hinton 的「救命恩人」

近日原腾讯AI Lab副主任俞栋加入Capital One。此前他和邓力曾在微软为Geoffrey Hinton雪中送炭,挽救深度学习研究。如今邓力、俞栋等技术大佬纷纷投身金融公司,或是因薪资、挑战和资源等因素。

AI科技评论
推荐文章8

“每给 Claude Code 提一个请求,我就点上一根烟,放松下”

OpenFGA核心维护者Siddhant Khare写博客吐槽在使用AI编程中的“疲惫感”,指出AI带来职业疲惫,如任务量膨胀、角色转变、输出不确定等,还提及行业追新工具的弊端,强调工程师要设边界保护认知资源

AI前线