开源内存存储」共找到 3268 篇相关文章

开源动态8

Altman 投的 Agent 终端 Warp 开源了,15小时Star 数飙到3.5万!开源是延长软件寿命的最佳方式

由 Sam Altman 支持的现代终端 Warp 正式在 GitHub 开源,OpenAI 成新代码库创始赞助商。Warp 团队认为传统开发模式遇瓶颈,开源可汇集全球创意,还在功能上开放,引发社区热议。

InfoQ
新闻资讯7

The Batch: 890 | 开源终将胜利

IBM研究院AI模型副总裁David Cox认为开源AI应持续繁荣并最终胜利,开源生态是创新发动机。如今部分‘开源模型’未真正开放,真正开源AI潜力巨大,开发好处多,还能解决地缘政治相关问题。

DeeplearningAI
开源动态8

英伟达MIT出手!华人团队重磅开源,大模型推理内存暴降10倍

英伟达、MIT、浙大华人研究者联合推出TriAttention,核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性,保留关键部分。它使内存消耗降10倍,吞吐量提2.5倍,还提供vLLM集成和MLX实验性支持。

新智元
开源动态8

Databricks开源限流方案,抛弃redis,性能提升10倍

Databricks 开源高性能限流系统设计,抛弃 Redis,通过内存分片和批量上报机制,实现 10 倍性能提升。还将限流算法改为令牌桶,解决了精度控制、在线迁移等问题,权衡了分布式一致性。

AI工程化
开源动态8

万帧实时!流式3D重建天花板,被国产开源模型打破了

蚂蚁正式开源 LingBot-Map,这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建,处理速度约 20 FPS,在多基准测试中超越现有流式方法。

机器之心
推荐文章8

大模型推理加速全链路:内存管理、编译优化、量化与并行策略

本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。

InfoQ
8

4.1K Star!发现一个超轻量的 OpenClaw 平替项目,比 OpenClaw 内存少 99%!

开发者运行OpenClaw成本高,Sipeed推出超轻量开源项目PicoClaw。它内存占用小于10MB,成本只需10美元硬件,启动快、可移植,功能全,还介绍了入手方式和技术路线。

开源星探
开源动态8

24K+ star!AI 专用无头浏览器,快11倍、内存省9倍!

Lightpanda是专为AI代理、网页抓取和自动化测试而生的开源无头浏览器,用Zig语言重写核心引擎。官方称其速度比Chrome快11倍,内存占用仅为1/9,兼容主流自动化库,目前处于Beta阶段,已获24k+ Star。

开源先锋
开源动态8

即将开源 | 阿里云Tair KVCache Manager:企业级全局 KVCache 管理服务的架构设计与实现

阿里云Tair KVCache团队联合多团队将开源Tair KVCache Manager,介绍其架构设计与实现。该服务应对Agentic AI下KVCache存储挑战,解决传统模式难题,具备企业级管理能力,后续还会完善多方面功能。

阿里云开发者
新闻资讯8

80%美国AI初创靠中国开源模型“吃饭”!a16z投资人震惊,全球开源榜前16名全被中国包揽

Reddit上“中国开源AI模型席卷美国初创”帖子爆火。a16z合伙人Martin Casado称80%美国AI初创融资路演用中国开源模型。Design Arena榜单前16名开源模型全是中国的,中国开源模型优势尽显。

InfoQ