「开源缓存软件」共找到 3529 篇相关文章
AI“氛围编程”威胁开源,维护者面临危机
开源维护者正加速关闭外部贡献,因AI生成贡献量大质低。研究显示“氛围编程”会造成负反馈循环,降低软件可用性和质量。平台激励加剧问题,虽有应对策略但效果不佳。
The Batch: 890 | 开源终将胜利
IBM研究院AI模型副总裁David Cox认为开源AI应持续繁荣并最终胜利,开源生态是创新发动机。如今部分‘开源模型’未真正开放,真正开源AI潜力巨大,开发好处多,还能解决地缘政治相关问题。
超级麦吉:职场人 Vibe Working 的开源 LLM OS
文章介绍了开源项目超级麦吉,它是为职场人打造的 LLM OS,采用三层结构设计,有专业功能和完整产品矩阵。与闭源软件对比,其开源诚意足,虽有颜色和邀请码机制等小问题,但助力职场人向 Vibe Worker 转型。
半个月暴涨23k+ Star,一行命令让任意软件 Agent-Native!
介绍开源项目`CLI-Anything`,它用CLI作AI Agent与软件桥梁,有全新思路。半个月Github涨23k+ Star,能一键生成CLI,对接真实后端,但也有依赖代码质量、不适闭源软件等局限。
最贵缩放录屏软件Screen Studio被这个开源项目复制了,完全免费!
Recordly是开源录屏与编辑工具,适用于演示等场景,支持多系统,比Screen Studio轻便顺滑还免费。有自动缩放等功能,介绍了安装、系统要求和使用方法。
11 万 Star 的开源项目,给 AI 编码代理补流程,这套 Superpowers 值得装
110多K Star的开源项目Superpowers,是完整软件开发工作流程,基于17个可组合“技能”。它采用Pull模式,用苏格拉底式追问澄清需求,工作流覆盖多领域,支持多平台,一行命令即可安装。
缓存命中率99.93%!DeepSeek最适合的Harness来了,GitHub狂揽8.6万Star
DeepSeek官方版Harness未出,民间开源编程Agent「Pi」先火。它适配DeepSeek,让其缓存不命中率低至0.03%,调用成本大降。Composio测试显示Pi完成任务平均成本最低。同时,DeepSeek正组建团队做官方Harness。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?
文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。
Kimi开源新线性注意力架构,首次超越全注意力模型,推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构,用新注意力机制首次超越全注意力模型。长上下文任务中,它减少75%的KV缓存需求,推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。