「本地私有」共找到 364 篇相关文章
不上云、不租卡,如何优雅地在本地微调Qwen-VL-30B?
文章指出企业训练多模态助手,30B 参数的开源多模态模型如 Qwen-VL-30B 是不错选择,但多模态场景下显存需求大。联想 ThinkStation PGX 解决了显存难题,还介绍其性能、优势、适用场景及服务等。
不想买几百刀的 ChatGPT Pulse?这款开源替代 + 本地部署可以白嫖试试
MineContext是开源跨平台桌面应用,可把电脑操作变成“上下文记忆库”。它能自动收集信息、生成总结和待办等。有自动截屏、生成总结等功能,使用体验好,适合常忘工作内容的信息工作者。
零代码、100%本地!三步生成企业级MCP,Postman这个新功能绝了~
作者发现Postman新增MCP Generator功能,拖拖点点就能构建MCP Server。以公共的HackerNews为例,介绍了筛选API、生成代码、配置Client三步生成企业级MCP的过程,还指出此功能适合快速接入标准化REST API。
天玑9500s正式登场!扩图消除本地跑,《原神》极高画质满帧运行
联发科技发布次旗舰新品天玑9500s,搭载旗舰机NPU,可流畅运行复杂端侧生成式AI模型,还采用3nm制程等,让《原神》极高画质满帧。此外,还推出天玑8500,Redmi Turbo 5 Max将首发天玑9500s。
不改模型、不降质量,谷歌让Gemma 4快了3倍:本地跑大模型彻底变天
谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构,推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。
第二代PPTAgent来了!中科院软件所开源首个本地通用幻灯片智能体,9B参数打平GPT-5
中科院软件所开源第二代PPTAgent -- DeepPresenter,将幻灯片智能体模型与智能体沙箱环境一同开源。它解决了AI制作PPT的痛点,以9B参数打平GPT - 5,在消费级显卡上有出色表现。
程序员下班一看懵了?白嫖 Gemini / 本地大模型做时间追踪,用这个开源小工具给你一天自动出「git log」
Dayflow 是原生 macOS 开源应用,能以 1 FPS 录屏,用 AI 总结生成时间线,解决传统时间追踪记录不具体问题。它功能丰富,有自动时间线、分心高亮等,还支持多种 AI 模式,数据隐私性好。
终于,清华团队养出一只能「断网干活龙虾」!两栖版智能体杀疯了
国内「龙虾」市场分化为「云端API派」和「本地模型派」,用户面临成本与安全难题。面壁智能发布EdgeClaw Box,联合开源EdgeClaw框架,以「端云两栖」破局,在多场景展现优势。
功能全面的Agent!吸取了open-manus,langmanus众家之长
Cooragent是在langmanus基础上重大改进的Agent框架。文章介绍其本地部署、CLI工具使用、添加MCP服务等实战操作,还提及深度兼容Langchain工具链、支持MCP等特点,有两种工作模式。
猛涨25k star!一键检测你的电脑能跑哪些大模型!
最近 Github 出现工具 `LLMFit`,用 Rust 编写,能自动检测硬件配置,判断大模型能否流畅运行,推荐最优量化版本和运行模式。有一键硬件检测等特性,安装使用方便,降低本地部署门槛。