「本地生活」共找到 471 篇相关文章
本地LLM万字救场指南来了！全网超全AI实测：4卡狂飙70B大模型
文章围绕本地大语言模型（LLM）展开，针对实用性和经济性问题，用Dell Precision 7960塔式工作站对主流模型测试。涉及不同尺寸模型、推理框架等，给出不同配置下性能指标及使用建议，还模拟真实场景测试。
我不认为几亿人会用豆包「办公」，但 Agent 豆包也必须要做
豆包工作任务新增本地电脑和云电脑切换模式，补上AI Agent关键工作条件，产品定位改变。其优势是低门槛且能力提升，虽Agent不够稳定，但有望成全民工具，推动AI进入大众生活。
端侧跑大模型，现在也太简单了
作者Vicki Boykis分享本地运行AI模型体验，指出如今本地模型性能提升大，像GPT - OSS、Gemma 4系列表现出色。还介绍运行本地智能体流程的设置，虽有问题，但优势多，生态值得投资。
腾讯混元CL-bench续作发布，让大模型读懂你的日常生活
腾讯混元团队推出CL - Bench Life，用于精准衡量AI在现实生活中的“上下文学习”能力。测试12个语言模型，结果显示模型处理高噪声零碎context能力不足，揭示当前顶尖AI模型还远未读懂日常。
一人干翻所有大厂！OpenClaw硅谷封神，开发者一夜爆赚两亿
OpenClaw之父成硅谷英雄，其在YC访谈揭秘爆款AI背后故事。开发者用它结合TikTok实现财富暴增。Peter Steinberger称未来80%App将被取代，OpenClaw可本地运行，能连接设备，且记忆存本地，夺回数据主权。
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
15.1k，谷歌Notebook LM本地开源替代！
Open Notebook是开源、本地化且重隐私的Google Notebook LM替代方案。它支持超16家供应商，能整理多模态内容、生成专业播客，在多方面比Google Notebook LM更具优势。
Vercel 开源 Bash 工具：基于本地文件系统的上下文检索
Vercel开源bash - tool，为AI智能体提供Bash执行引擎，让其通过shell命令在文件夹操作获取上下文，有三大核心操作，部署灵活，可节省token，贴合Unix工作流，或影响未来AI开发系统处理本地上下文方式。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。
开源大模型实战：GPT-OSS本地部署与全面测评
2025年8月5日，OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型，采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法，并对其进行AI幻觉、算法、SQL、数学题等测试。