「本地存储」共找到 499 篇相关文章
如何在24GB显存里，塞下一个万亿参数的巨兽？KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统，可让消费级显卡跑万亿级参数模型，其论文入选SOSP 2025。该系统解决MoE模型本地部署难题，技术创新多，还与SGLang合作，提升硬件利用率。
GitHub 上一款 1.7 万人收藏的 AI 助手 Clawdbot 空前爆火！一天涨星 9000 Star！
GitHub上的AI助手Clawdbot爆火，一天涨9000 Star。它是开源自托管个人AI助手，能本地运行，通过聊天软件控制，有浏览网页、文件操作等功能，还能自我进化，安装流程极客友好。
使用 Node.js + OpenAI + MongoDB 实现文本向量知识库搜索
本文介绍用 Node.js、OpenAI Embedding API 和 MongoDB 实现文本向量知识库搜索系统，涵盖环境准备、文本切分与向量存储、本地语义检索等，还提及用 MongoDB Atlas 提升性能及后续延伸方向。
1.5万人收藏！这款 NotebookLM 开源平替太还原了，模型随意切换！
Google的NotebookLM虽火，但有国内使用难、数据不私密、模型单一等痛点。Open - Notebook是其开源平替，完全本地可部署，功能超全，支持多模型，近半月GitHub星标增10K，总收藏1.5万。
“具身智能始祖公司”破产后卷土重来，这次团队做了一个会撒娇的毛茸机器人
具身智能始祖公司创始人科林·安格尔在公司破产重整后推出新公司 Familiar Machines & Magic，首款产品 Familiar 是仿生宠物机器人，有情感智能，能本地处理信息，团队希望它用于监护老人等场景。
Claude能直接操控你的电脑微信了，这才是真正的上位小龙虾。
Claude新发更新，可通过Computer use纯视觉方案操控电脑，还更新了远程操控Dispatch。这俩功能组合让Claude能操控微信等本地软件，使用简单，且权限管控和防护较好，更新速度快，领先同类产品。
Fable 5被网友薅出省钱神招！最高减70%！
网友发现把Fable 5上下文转成图片，让模型通过OCR读取，token输入成本最多省70%。方法pxpipe在GitHub获3000+STAR，本质是本地代理，还引出谷歌老论文及DeepSeek - OCR相关技术。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
颠覆传统向量数据库，直接将文本数据编码成视频文件，轻量级革命性的大规模AI记忆解决方案Memvid
Memvid将文本数据编码为视频，改变AI记忆管理，实现百万级文本块闪电语义搜索和亚秒级检索。它存储高效、轻量级、可离线，应用场景广，还给出安装、使用、配置等说明，并与传统方案对比。
mem9：让微信里的龙虾不再失忆
文章介绍了 mem9 这一给 AI Agent 用的持久化记忆基础设施。它由 TiDB 团队打造，能解决 AI 失忆问题，实现记忆云端存储、无缝迁移，有两段式提取、混合搜索等功能，还能筛出重要记忆。