「存储成本」共找到 1737 篇相关文章

算法论文9

Meta新研究:字节模型蒸馏后,天花板破了

本文介绍Meta FAIR与华盛顿大学合作的最新研究,针对传统大模型蒸馏Token候选空间大、存储成本高的痛点,提出字节级蒸馏方案,验证其可突破Token天花板提升模型能力上限。

量子位
新闻资讯8

慕了!内存芯片巨头年终奖人均64万;32岁程序员猝死背后公司被扒,曾给39万“封口费”;马斯克曝星舰成本将降99%,商业航天受捧|AI周报

这是一篇AI周报,涵盖多领域热点。如SK海力士发高额年终奖;月之暗面张予彤称Kimi用少量资源开发领先模型;马斯克透露星舰目标、人形机器人计划等;多家公司有新动态,如阿里推AIGC应用、百川发布医疗大模型等。

AI前线
产品应用8

网易游戏 Tmax 平台实践:基于 Fluid 的云原生 AI 大模型推理加速架构

网易游戏打造 Tmax AI 机器学习平台,但大模型推理业务规模爆发带来资源弹性等挑战。经评估,选用 Fluid + AlluxioRuntime 构建三层架构,有自动预热等配置,带来性能、成本等多方面收益。

AI前线
新闻资讯7

随着 AI 内存需求推高非 AI 基础设施价格,OVHcloud 将上调服务价格

OVHcloud 将于秋季上调多数服务价格,主因是自 2025 年年中起内存与存储组件成本大幅攀升,创始人 Octave Klaba 认为是 AI 算力建设热潮挤占了普通服务器核心组件的晶圆制造产能。

InfoQ
开源动态7

英伟达Run:ai没做到的,被华为开源方案实现了

传统存储难满足AI需求,存储需向‘智能存储’演进。华为数据存储团队推出系列产品和开源工具链,其Flex:ai对标Run:ai,更开源底层,能解决行业算力痛点,已在医院场景落地。

InfoQ
开源动态7

Memvid:把你的文档库变成一个小巧的视频,还能瞬间搜出你想要的!

传统向量数据库因高成本和复杂运维让开发者却步。开源项目Memvid将文本数据存入视频文件,能高效检索,解决存储冗余、检索延迟和网络依赖问题,使用简单,虽处概念原型阶段但值得尝试。

AI工程化
产品应用8

快手 AB 场景提速 145 倍,从 Spark 到 Apache Doris 的加速实践

快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%,刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因,以及在存储、计算、调度、稳定性等方面的优化,对构建 AB 实验平台有参考价值。

InfoQ
产品应用7

作业帮基础观测能力之一监控体系实践

本文介绍作业帮监控体系实践。其监控体系随云原生成长,支持全集群监控。构建时选 Prometheus 采集、VictoriaMetrics 存储,还从多维度采集指标,用自研代理降成本、治理指标,让系统更贴合研发。

InfoQ
新闻资讯7

向量数据库要被取代?DynamoDB 开始原生支持 AI 搜索

Amazon DynamoDB 推出原生向量搜索,允许开发者将嵌入向量与应用数据存一起,直接在其中运行近似最近邻查询,无需单独向量数据库。介绍了功能特点、成本计费及开发者反馈等。

InfoQ
开源动态8

开源共建重塑推理 Infra:从架构创新到生态协同,Mooncake的破局之路

大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心,通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。

InfoQ