算力管理」共找到 1272 篇相关文章

推荐文章7

算力稀缺时代,如何把 GPU 用“满”

在 GPU 稀缺且利用率低的背景下,本文分析其‘用不好’的原因,探讨业界共享技术方案的局限。以腾讯云 TencentOS qGPU 为例,解析内核态虚拟化及在离线混部技术,还介绍其在多行业降本增效的实践。

InfoQ
算法论文8

以「图」破局,HyperOffload定义超节点存储管理新范式

随着生成式AI进入万亿参数时代,大语言模型面临“显存墙”挑战。上海交大与华为MindSpore团队发布技术报告《HyperOffload》,其核心技术集成于MindSpore 2.8,能提升超节点异构资源协同效率,已在多项目落地。

机器之心
新闻资讯8

Boris Cherny:Claude Code 之后,写代码正在变成“管理 Agent”

这是对Anthropic内部Claude Code创建者Boris Cherny的访谈。他介绍了Claude Code从三人孵化项目发展的历程,分享工作流,探讨编程现状、SaaS未来、产品与模型关系等,还给出软件大众化等观点。

宝玉AI
算法论文8

LLM算力告急?把文本变图片,推理成本直接减半!

大型语言模型处理长文本时计算成本高,本论文探索‘文本即图像’输入压缩策略,将长文本渲染为图像输入多模态模型,可减少近一半令牌,且任务性能不受显著影响,在多任务中验证了其有效性。

深度学习自然语言处理
新闻资讯8

Claude彻底起飞!狂揽亚马逊5GW算力+250亿刀,贝索斯赚麻了

4月20日,Anthropic与亚马逊签署超级大规模AI基础设施协议,1000亿美元十年砸向AWS算力,锁定5吉瓦用于训练和部署Claude。亚马逊追加投资,Anthropic营收猛增,此合作揭示AI竞争转向基础设施。

新智元
产品应用8

把抖音的研发管理搬到车企,跑得动吗?

飞书项目在深圳新品发布会推出整车研发解决方案,首次明确‘平台化’定位并公开产品架构。其方案覆盖架构整合等四场景,还进行技术升级,如轻应用、Project 4K 计划等,已获车企实践验证。

InfoQ
算法论文8

长程 Agent 越跑越乱?ContextPilot 用细粒度 RL 教会模型主动管理上下文

长程 Agent 推理时,传统方法使上下文臃肿、推理成本高。清华、腾讯等团队提出 ContextPilot 框架,扩展管理工具集、采用新采样和信用分配方法。实验显示其用短上下文获高分,降低推理开销。

深度学习自然语言处理
开源动态8

故障率降低100倍,微软突破性技术破解AI算力浪费大难题

在AI数据中心,网络链路高故障率制约算力释放。微软在“ACM SIGCOMM 2025”大会公布MOSAIC技术,将链路故障率降100倍,实现50米长距传输、最高68%功耗降低,为大规模AI集群提供支撑。

AIGC开放社区
新闻资讯7

奥特曼:假如给我一千倍算力,我会这样做

奥特曼在最新访谈展望下一代模型,认为完美AI是有超人推理能力等的微型模型。理想AGI能自主发现新科学,使全球科学发现提速。他还回应算力假设,为企业指明投入资源方向。

量子位
新闻资讯7

全球AI算力大战变天!十万卡算力集群爆表,国产IB真香?

大模型竞赛进入万卡、十万卡时代,网络取代算力成新瓶颈。过去RoCE因成本优势受青睐,但集群规模扩大后运维复杂。IB架构以其稳定性迎来价值重估,国产IB方案突破或改变技术路线选择。

新智元