「本地部署」共找到 944 篇相关文章
猛涨25k star！一键检测你的电脑能跑哪些大模型！
最近 Github 出现工具 `LLMFit`，用 Rust 编写，能自动检测硬件配置，判断大模型能否流畅运行，推荐最优量化版本和运行模式。有一键硬件检测等特性，安装使用方便，降低本地部署门槛。
WhisperLiveKit：本地同步实时语音转文字
实时语音转文字难题待解，现有方案各有缺陷。WhisperLiveKit项目用前沿同步语音技术解决问题，支持多语言同步翻译、实时说话人识别等，还介绍了安装、部署方式，不过效果受语言和模型等因素影响。
The Batch: 919 | 本地 AI 能否替代云端？
大语言模型预测输出需求推动数据中心扩建，研究人员探讨本地小型模型能否分担算力负荷。斯坦福与Together AI团队研究发现，本地系统单瓦特智能量与云端有差距但在缩小，若准确率相近可节省能耗。
Lovart的开源平替产品，完全本地免费的AI设计Agent。
Lovart是热门AI设计Agent但使用成本高，现找到开源平替项目Jaaz。它接OpenAI绘图API，支持Comfyui等本地工具，能免费本地使用，功能丰富，还将推视频生成功能。
全网首份「龙虾」安全部署指南来了！360出品
近日，开源AI智能体OpenClaw走红，多地出台扶持政策，部署成趋势。但它带来新安全挑战，工信部、信通院等已预警。360集团率先发布国内首份《OpenClaw安全部署与实践指南》，为政企和开发者提供安全参考。
本地版Jev 1G内存就能跑！四舍五入等于不要钱啊
Jev爆火一周后，开发者推出适配Apple MLX框架的Laya-MLX，是开源决策模型Laya的原生本地版，最低仅需不到700M内存即可在Mac运行，速度快准确率高，适合高频短决策任务。
AI4S又一瓶颈被攻克：两个AI「吵架」，让科研代码部署成功率突破95%
科学软件大多难直接运行，制约AI4S与Agentic Science发展。Deploy - Master应运而生，是一站式自动化工作流。Search Agent筛选工具，Build Agent用双模型辩论机制使部署成功率超95%，为科学智能体交互打基础。
本地运行OpenAI Whisper语音识别模型，Unity3d环境下高性能离线转写解决方案
这是为whisper.cpp提供的Unity3D绑定库，能在本地设备高性能运行OpenAI Whisper自动语音识别模型推理。支持多语言识别与翻译，有不同大小模型，可本地运行，还介绍了使用方法。
Wispr Flow 平替, 这款开源中文语音助手，程序员真该试试,本地离线的中文语音输入神器来了（开源白嫖版）
蛐蛐（QuQu）是开源桌面应用，用本地语音识别模型和配置的大语言模型，将语音实时转文字并润色。它主打本地语音工作流，替代Wispr Flow，免月费且保护隐私，适合中文用户。
银河通用X清华大学发布业内首款开源人形机器人全身遥操系统OpenWBT，支持多机型、跨虚实，小时内可轻松部署
银河通用与清华大学合作发布全开源人形机器人全身遥操作系统OpenWBT，新手小时内可部署。该系统有极简部署、多机型跨平台、兼顾虚实遥操三大亮点，背后技术解决了sim2real迁移难题。