超节点存储管理」共找到 776 篇相关文章

产品应用7

多模态“卷王”阶跃星辰:如何利用 JuiceFS 打造高效经济的大模型存储平台

有“多模态卷王”之称的阶跃星辰,自研多模态模型,早期商业存储系统难满足需求,后引入 JuiceFS。文章介绍大模型各环节存储需求,详述 JuiceFS 企业版与社区版优化实践,含模型分发、读性能等优化。

InfoQ
算法论文8

北大联合阶跃星辰提出TensorCast:统一可编程管理大模型张量,推理「首字延迟」最高降低93.2%

随着模型规模增长、新应用兴起,大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast,解耦张量状态,复用管理能力,在多场景测试中表现出色,为大模型基建提供新范式。

机器之心
开源动态8

揭秘 GitHub 11.1k 让你的存储秒变“万能盘”?JuiceFS:最好用的存储系统能为你带来怎样革命性的提升?

存储成本高、性能差等问题让人烦恼,JuiceFS 可零代码改造,将对象存储升级为高速共享文件系统。它功能丰富、架构有优势,代码示例简单,适用于多场景,相比竞品优势明显。

小华同学ai
开源动态8

上百个Agent,该怎么管?清华团队新思路:重做Session

当Agent数量增多,管理难题凸显。清华与中大团队开源OpenRath,以Session为核心,让多Agent共享状态。它借鉴PyTorch,解决了证据存储、状态流动等问题,使Agent集群管理更高效。

新智元
技术文章7

让NCCL性能起飞的NCCL symmetric memory是啥黑科技?— part1

本文是NCCL 2.27新特性系列首篇,介绍symmetric memory。它类似NVSHMEM,现仅支持单节点通信,未来将支持跨节点。其低延迟内核能提升小数据通信性能,还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。

GiantPandaLLM
推荐文章8

让AI智能体拥有像人类的持久记忆:基于LangGraph的长短期记忆管理实践指南

文章围绕让AI智能体拥有持久记忆展开,深入探讨Agent Memory概念,聚焦LangGraph框架下长短期记忆实现,详解存储管理、检索技巧,还通过引入MCP协议的实战案例展示构建多Agent系统。

腾讯技术工程
产品应用7

Moltbot实战:MoltBot+RDS AI助手Skill管理RDS实例

文章介绍Moltbot与阿里云RDS AI助手结合管理RDS实例。RDS AI助手能集数据库管理等为一体,Moltbot以轻量级框架霸榜GitHub。二者组合有自动化诊断和运维管理能力,还能定制运维知识库,文中给出对接步骤。

阿里云开发者
新闻资讯8

AI浪潮之下:存储来到聚光灯下

AI浪潮下,行业对存储设备重视上升。其根因是AI业务刺激,数据量增长且推理业务有新需求。信通院报告显示我国存力结构优化,国内厂商迎来机会,平头哥镇岳510主控芯片表现出色,生态建设也在推进。

InfoQ
新闻资讯7

国产存储芯片抢抓“超级周期”机遇

自今年第三季度起,存储芯片行业进入‘超级周期’,海外大厂产能向高端转移造成中端供给缺口。本土存储芯片厂商完善中低端布局、量产产品、取得高端进展,有望填补空白、提升话语权。

芯师爷
产品应用7

Git for Data: 像 Git 一样管理你的数据

传统数据恢复手段在AI时代耗时费力,Git for Data带来变革,具备版本控制、快速回滚等能力,是AI时代数据管理新范式。MatrixOne数据库已具备其核心能力,未来将持续增强相关特性。

InfoQ