开源缓存软件」共找到 3529 篇相关文章

新闻资讯7

AI“氛围编程”威胁开源,维护者面临危机

开源维护者正加速关闭外部贡献,因AI生成贡献量大质低。研究显示“氛围编程”会造成负反馈循环,降低软件可用性和质量。平台激励加剧问题,虽有应对策略但效果不佳。

InfoQ
新闻资讯7

The Batch: 890 | 开源终将胜利

IBM研究院AI模型副总裁David Cox认为开源AI应持续繁荣并最终胜利,开源生态是创新发动机。如今部分‘开源模型’未真正开放,真正开源AI潜力巨大,开发好处多,还能解决地缘政治相关问题。

DeeplearningAI
开源动态8

超级麦吉:职场人 Vibe Working 的开源 LLM OS

文章介绍了开源项目超级麦吉,它是为职场人打造的 LLM OS,采用三层结构设计,有专业功能和完整产品矩阵。与闭源软件对比,其开源诚意足,虽有颜色和邀请码机制等小问题,但助力职场人向 Vibe Worker 转型。

AGI Hunt
开源动态8

半个月暴涨23k+ Star,一行命令让任意软件 Agent-Native!

介绍开源项目`CLI-Anything`,它用CLI作AI Agent与软件桥梁,有全新思路。半个月Github涨23k+ Star,能一键生成CLI,对接真实后端,但也有依赖代码质量、不适闭源软件等局限。

开源先锋
开源动态7

最贵缩放录屏软件Screen Studio被这个开源项目复制了,完全免费!

Recordly是开源录屏与编辑工具,适用于演示等场景,支持多系统,比Screen Studio轻便顺滑还免费。有自动缩放等功能,介绍了安装、系统要求和使用方法。

GitHubStore
开源动态7

11 万 Star 的开源项目,给 AI 编码代理补流程,这套 Superpowers 值得装

110多K Star的开源项目Superpowers,是完整软件开发工作流程,基于17个可组合“技能”。它采用Pull模式,用苏格拉底式追问澄清需求,工作流覆盖多领域,支持多平台,一行命令即可安装。

AI进修生
开源动态7

缓存命中率99.93%!DeepSeek最适合的Harness来了,GitHub狂揽8.6万Star

DeepSeek官方版Harness未出,民间开源编程Agent「Pi」先火。它适配DeepSeek,让其缓存不命中率低至0.03%,调用成本大降。Composio测试显示Pi完成任务平均成本最低。同时,DeepSeek正组建团队做官方Harness。

量子位
开源动态7

最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?

文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。

AI科技大本营
开源动态8

Kimi开源新线性注意力架构,首次超越全注意力模型,推理速度暴涨6倍

月之暗面发布开源Kimi Linear架构,用新注意力机制首次超越全注意力模型。长上下文任务中,它减少75%的KV缓存需求,推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。

量子位
开源动态8

10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题

推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。

量子位