搜索：本地自部署 - AI Reading Hub

「本地自部署」共找到 2009 篇相关文章

重磅！OpenAI官宣自研AI芯片：垂直整合要彻底摆脱英伟达，联手博通部署10吉瓦算力

OpenAI与博通达成深度战略合作伙伴关系，共同设计和制造AI芯片与计算系统，合作已秘密进行约18个月，目标是2026年底部署10吉瓦算力，还在用模型探索芯片设计新方法。

OpenAI公布自研推理芯片Jalapeño（墨西哥辣椒）测试结果，它专为大语言模型推理设计，能同时提升吞吐量和降低延迟，在多模型测试中超NVIDIA系统。该芯片与Cerebras合作，计划2026年底部署。

Google Notebook LM 虽方便，但有数据泄露风险且被平台绑定。开源工具 `open-notebook` 是其平替，支持 16 + 家 AI 模型提供商，可处理多模态内容，能本地部署保障数据安全，还具备多种实用功能。

本文深入解析微信自研的高性能推理计算引擎 XNet-DNN，介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力，在多方面超越现有解决方案，还给出了详实对比实验数据。

过去一个多月，机器人学习风向生变。清华李健雄团队围绕机器人学习等研究多年后成立本溯智能创业。他们认为当下主流技术路线有问题，押注In - Context Learning，让机器人端侧自进化，降低部署成本。

3月12日「阶跃龙虾」上线，提供5万个免费体验名额。此前阶跃星辰自研的Step 3.5 Flash模型在OpenRouter平台霸榜。其一键部署功能简化养虾流程，且云端版本支持7×24小时在线，国产厂商正推动AI Agent使用范式转变。

过去三年，AI产业沉浸在云端幻象，但走进现实面临诸多阻力，如物理距离、隐私、试错成本和监管等问题。下一阶段AI竞争转向算力位置争夺，英特尔酷睿Ultra系列处理器助力多行业实现本地算力部署。

阿里在GitHub开源轻量本地实时数字人对话系统OpenAvatarChat，摆脱高性能硬件依赖等问题。它平均回答延迟2.2秒，有100+预置形象，支持多模态交互，提供多种部署方式，适配多场景。

马斯克抛出AI基础设施宏大构想，因地球电力紧缺，计划将AI算力送入轨道，3 - 4年部署有本地计算能力的卫星，后续在月球建工厂用电磁炮发射卫星，最终形成以‘瓦特和吨位’衡量的自生系统。

黄叔实测豆包「工作任务」模式，其有独特的本地/云电脑双模式。本地能分析电脑内存问题，云端可处理监控任务，还能助力开发复杂项目，且Skill自动接入，与本地电脑实时同步。