「本地部署」共找到 920 篇相关文章
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
GitHub CLI 增强了对三角工作流的支持
2025年4月，GitHub宣布更新其CLI，增强对三角工作流的支持。此工作流涉及原始库、个人分支和本地环境，更新前gh pr命令有管理难题，改进后获开发者好评，还对比了GitLab和Bitbucket相关支持情况。
华为昇腾推理对决：开源vLLM vs 官方MindIE，数据说话「Qwen与DeepSeek推理实测」
文章围绕华为昇腾推理，对比开源vLLM与官方MindIE。借助GPUStack平台测试Qwen与DeepSeek模型，分析不同场景性能。指出vLLM和MindIE各有优势，还强调构建国产AI推理生态需多要素，鼓励开源协作。
终于不用羡慕老外了！美团竟然做出了类似V0&Bolt的AI编程神器
美团推出零代码应用生成工具NoCode，类似V0&Bolt。它功能强大，能生成复杂网页应用，支持提示词生成、自动优化、快速部署等，还自带数据库服务，免费且无需邀请，为国内Vibe Coding带来曙光。
华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍
华为诺亚方舟实验室联合中科大提出CBQ后训练量化方案，仅用0.1%训练数据实现大模型7倍压缩，保留99%精度。该成果登ICLR 2025 Spotlight，已加入昇腾ModelSlim工具包。
人工智能驱动的科研新范式及学科应用研究
文章指出AI驱动的科研新范式通过数据、算力、算法深度耦合嵌入科研全过程，引发多方面变革。总结其特征与演化方向，分析学科应用要求与成功案例，还提出我国推动AI科研应用的启示与建议。
Genspark 发布 GenOffice：AI 时代的 Office，免费、开源，抢占办公人群的第一工作入口
8月3日，Genspark创始人景鲲在AGI Playground 2026大会发布GenOffice，这是面向Windows和Mac的本地Office客户端，免费、开源、无广告，将AI引入高频办公场景。GenOffice Alpha版已发布，后续会和用户、AI Agent共建迭代。
97年金融男带8只「电商龙虾」全球开店！2个月后同行慌了
阿里版「电商龙虾」Accio Work打通国际站，一个工作台可全包选品、发品等七个岗位的活。它结合多维度数据助力选品，还能进行广告诊断、店铺运营等，在不同商家案例中成效显著。
具身智能中的 VLA 技术及其应用
文章围绕具身智能中 VLA 技术展开，介绍其现状、挑战、架构、数据方案及部署等内容。指出 VLA 虽推动具身智能发展，但面临数据、模型结构等挑战，还探讨了不同架构优劣及未来探索方向。
本周 5 个实用的 Github 开源项目，真香！
文章介绍本周5个实用Github开源项目。有资源聚合媒体中心stremio-web，AI原生安全测试平台CyberStrikeAI，本地优先AI编程远控工具hapi，智能股票分析系统daily_stock_analysis，纯前端JavaScript GUI智能体框架PageAgent。