「本地运行」共找到 785 篇相关文章
谷歌突袭发布AI应用，无需Wi-Fi、手机就能跑大模型！网友实测两极分化
谷歌推出 Google AI Edge Gallery 应用，可在 Android 设备离线运行 AI 模型。它有本地运行、智能选模等特点，响应快且隐私性好。不过网友实测评价不一，有人认为它是旧技术包装，还被指比 Core ML 落后。
15.1k，谷歌Notebook LM本地开源替代！
Open Notebook是开源、本地化且重隐私的Google Notebook LM替代方案。它支持超16家供应商，能整理多模态内容、生成专业播客，在多方面比Google Notebook LM更具优势。
Vercel 开源 Open Agents，支持后台运行 AI 编码工作流
Vercel 开源 Open Agents，支持创建和运行后台编码智能体，提供全栈解决方案。它采用三层架构，核心是智能体与沙箱解耦，支持多步执行等功能，定位为参考实现，引发不同反响。
Vercel 开源 Bash 工具：基于本地文件系统的上下文检索
Vercel开源bash - tool，为AI智能体提供Bash执行引擎，让其通过shell命令在文件夹操作获取上下文，有三大核心操作，部署灵活，可节省token，贴合Unix工作流，或影响未来AI开发系统处理本地上下文方式。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。
开源大模型实战：GPT-OSS本地部署与全面测评
2025年8月5日，OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型，采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法，并对其进行AI幻觉、算法、SQL、数学题等测试。
给 iPhone 装个“最强本地大脑”：Google 开源模型 Gemma 4
Google 4 月初发布开源模型 Gemma 4，可离线运行在 Google AI Edge Gallery 上。它在多项基准表现出色，采用 Apache 2.0 协议，开发者可集成到 App。还介绍了在 iPhone 离线使用方法及适用场景。
一个运行了80年的算法，我们现在才真正理解它？
近80岁的单纯形法是优化领域基石，广泛用于包裹配送、飞机航线规划等，但此前没人能从理论上完美解释其高效原因。现在，Huiberts和Bach找到了谜题的最后一块拼图，不仅让算法更快，还从理论上解释了现象。
还是你们会玩，2.9k Star OpenBiliClaw
OpenBiliClaw把浏览器扩展等拼成内容发现Agent，将内容推荐主导权交回用户。它汇总显式授权来源信号找内容，形成本地画像。介绍其架构层级、核心闭环，也提醒“本地优先”仍需做隐私检查。
Meta重返开源！30B本地Agent塞进24GB显存，LeCun火速力挺
Meta重返开源，推出开源模型Muse Glimmer，参数30B，经量化后一块24GB消费级显卡就能跑通，拥有完整Agent能力。Meta还预告Muse Spark 1.2开放权重版本将发布，扎克伯格称会恢复发布部分开放模型。