「本地私有」共找到 347 篇相关文章
如何在24GB显存里，塞下一个万亿参数的巨兽？KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统，可让消费级显卡跑万亿级参数模型，其论文入选SOSP 2025。该系统解决MoE模型本地部署难题，技术创新多，还与SGLang合作，提升硬件利用率。
GitHub 上一款 1.7 万人收藏的 AI 助手 Clawdbot 空前爆火！一天涨星 9000 Star！
GitHub上的AI助手Clawdbot爆火，一天涨9000 Star。它是开源自托管个人AI助手，能本地运行，通过聊天软件控制，有浏览网页、文件操作等功能，还能自我进化，安装流程极客友好。
1.5万人收藏！这款 NotebookLM 开源平替太还原了，模型随意切换！
Google的NotebookLM虽火，但有国内使用难、数据不私密、模型单一等痛点。Open - Notebook是其开源平替，完全本地可部署，功能超全，支持多模型，近半月GitHub星标增10K，总收藏1.5万。
“具身智能始祖公司”破产后卷土重来，这次团队做了一个会撒娇的毛茸机器人
具身智能始祖公司创始人科林·安格尔在公司破产重整后推出新公司 Familiar Machines & Magic，首款产品 Familiar 是仿生宠物机器人，有情感智能，能本地处理信息，团队希望它用于监护老人等场景。
Claude能直接操控你的电脑微信了，这才是真正的上位小龙虾。
Claude新发更新，可通过Computer use纯视觉方案操控电脑，还更新了远程操控Dispatch。这俩功能组合让Claude能操控微信等本地软件，使用简单，且权限管控和防护较好，更新速度快，领先同类产品。
Fable 5被网友薅出省钱神招！最高减70%！
网友发现把Fable 5上下文转成图片，让模型通过OCR读取，token输入成本最多省70%。方法pxpipe在GitHub获3000+STAR，本质是本地代理，还引出谷歌老论文及DeepSeek - OCR相关技术。
开源屠刀！400美元炼成「代码副脑」，硅谷天价模型成废铁
AI2开源Open Coding Agents，以最低数百美元算力成本，能训练贴合私有代码库的专属编程智能体。SERA-32B表现惊艳，其软验证生成技术降低成本，新代码易部署且兼容Claude Code。
性能碾压GPT-4.1-mini！Mistral开源Devstral，还能在笔记本上跑
法国AI初创公司Mistral与All Hands AI合作，发布全新开源语言模型Devstral，有240亿参数，所需算力低，可本地部署。它能解决真实GitHub问题，在SWE基准测试中表现优于多个模型，还能通过API访问。
94.5K Star！2026现象级开源 AI Agent，Moltbot(原Clawdbot)+飞书保姆级安装教程！
2026年现象级开源Agent工具Clawdbot改名Moltbot，获94.5K Star。它能接管本地设备，可通过飞书交互。文章给出Moltbot搭建教程，包括准备工作、部署步骤和接入飞书机器人方法。
mcpx？要来拯救mcp！让工具调用不再吃掉你的上下文
MCP传统集成方式需在对话前加载所有工具定义，易使上下文溢出。开发者cs50victor基于mcp - cli构建mcpx，按需发现工具，大幅节省token，提升准确率，适合本地部署，虽有额外推理调用，但利大于弊。