「多级存储调度」共找到 387 篇相关文章
刚刚,DeepSeek张博创业曝光:开源个人Agent!
前 DeepSeek-VL 负责人张博开源个人助理 Linger,数据不出本地且不收调用费,通过多级存储调度让 12GB 显存就能运行 125B 模型。
Cloudflare 如何将 Quicksilver 迁移到多级缓存并处理数十亿个请求
Cloudflare 工程团队分享将全局键值存储 Quicksilver 过渡到分层缓存架构的故事。从 V1 到 V2 迁移,采用多级缓存策略,解决存储、一致性等问题,提升性能,多数请求可在短时间内响应。
万亿AI存储鸿沟如何填平?
文章指出AI存储迎来爆发期,新一代分布式存储成主流。分析存力需求变化、传统存储架构问题,介绍Universal Storage架构优势,还提及对标Vast Data的公司画像,认为新一代存储软件赛道值得关注。
揭秘 GitHub 11.1k 让你的存储秒变“万能盘”?JuiceFS:最好用的存储系统能为你带来怎样革命性的提升?
云存储成本高、性能差等问题让人烦恼,JuiceFS 可零代码改造,将对象存储升级为高速共享文件系统。它功能丰富、架构有优势,代码示例简单,适用于多场景,相比竞品优势明显。
图解Vllm V1系列5:调度器策略(Scheduler)
本文是图解Vllm V1系列5,聚焦调度器策略。先回顾vllm v1整体运作流程,接着阐述调度 - 推理的整体流程,包括将请求添加进Scheduler、Scheduler单步调度策略等,还对比了不同场景下的函数及调度逻辑。
业内首推“共享存储”,OceanBase何以办到?
5月17日,OceanBase在开发者大会推出“共享存储”产品,实现对象存储与事务型数据库深度集成,降低存储成本、提升弹性。它解决了传统架构瓶颈,靠多项技术创新落地OLTP生产环境,适用于多业务场景。
超级周期来临!存储龙头大爆发
9月起,存储芯片第二波涨价潮开启,全球产业链企业股价狂欢。存储芯片需求在AI时代外溢,宣告超级周期来临。国产芯片龙头借此翻身,兆易创新存储产品线涨价,利基型芯片市场供应紧缺,公司有望提升份额。
如何为 GPU 提供充足存储:AI 训练中的存储性能与扩展性
文章分析 MLPerf Storage v2.0 测试结果,探讨不同存储系统在 AI 训练中表现。在满足 GPU 利用率阈值下,能支撑更多 GPU 的存储系统扩展性与稳定性更强,还需关注资源利用率。以太网存储方案灵活且成本效益高。
烧钱,能解决 AI 存储的焦虑吗?
存储短缺焦虑或延续至 2026 年,传统云存储因 AI 落地面临性能、成本等压力。InfoQ 联合腾讯云邀行业人士探讨成因、策略与竞争主线,还给出存储价值评估与规划方法,介绍文远知行和腾讯云实践。
大模型之外,向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成,而Agent需获取外部数据等。向量存储可将数据转化为语义向量,在Agent执行任务时找回相关内容。文章探讨向量存储技术方向,分享做法,还演示阿里云两种Serverless向量存储用法。