「本地部署」共找到 916 篇相关文章
PD 分离推理的加速大招,百度智能云网络基础设施和通信组件的优化实践
为适应PD分离式推理部署架构,百度智能云从物理网络、网络流量、通信组件和算子层面优化,提升上层推理服务性能,展现了网络、组件与业务特征融合的重要性。
3.4K星Apple出品FastVLM:视觉TTFT效率提升85倍,凭啥这么牛!
文章指出VLM在实际生产应用中因高分辨率图像存在效率问题,介绍Apple出品的FastVLM解决方案,阐述其架构、训练过程,展示在多个基准测试的性能,凸显在高分辨率输入下提升效率的优势及实际应用价值。
美团反思“养虾”日耗上千万元、干扰真实经营,龙虾之父自曝:爆火后差点删掉整个项目
今年2 - 3月美团开展“养虾运动”,引入OpenClaw,日耗上千万元还干扰经营。美团CEO王莆中复盘称这是AI转型第一阶段。OpenClaw之父Peter也复盘爆火8个月经历,分享经验与感悟。
Hermes 登顶 OpenRouter 之后,我才发现它最缺的那一块,被这个插件补上了
Hermes Agent 三个月登顶 OpenRouter,虽好用但记忆处理有缺陷,记忆库成大杂烩。记忆张量的 MemOS Local Plugin 2.0 可解决此问题,采用‘执行即学习’,有双层反馈机制,且资产可携带。
当机器人学会「看」和「说」之后,如何让它们真正拥有「手感」?
今年四月,戴盟机器人联合多家机构发布含触觉全模态具身数据集 Daimon-Infinity 并开源 10000 小时数据。IEEE 与戴盟联合创始人王煜教授深度对话,探讨触觉感知对机器人技术格局的影响、具身机器人落地场景等问题。
MCP 丸辣?不不不,Agent 进生产都绕不开 MCP
文章指出 Agent 连接外部系统通常有直接 API 调用、CLI 及 MCP 三种方式,构建生产级 Agent 目前 MCP 更靠谱。分析各方式优劣,还介绍了 MCP 封装方法。
3B激活参数!商汤绝影Sage登顶PinchBench,端侧第一
商汤绝影Sage端侧大模型在PinchBench评测中,以94%任务完成率超越Claude、GPT - 5.4等主流大模型。它激活参数仅3B,算力需求低,还具备多项实用场景能力,靠SCOUT和ERL两项自研技术提升性能。
还在复制粘贴提示词?Memory+Checkpointing 让你从"每次重头来"到"迭代越来越快"
文章介绍了Claude Code最佳实践地图,它将零散手动探索工程化,把关键模块整理成可导航路线图。核心功能包括三段编排、Subagents、Memory + Checkpointing,还给出不同场景方案及使用方法。
年轻人的第一个爱马仕
AI圈的Hermes是Nous Research开发的开源Agent框架,GitHub星数超35000。作者写76页《Hermes Agent从入门到精通》,介绍其设计思路、使用方法等,中英文版可在GitHub免费下载。
3个工程师、0融资、不开会,估值3.5亿美元的Obsidian才是真正的「小而美」
Obsidian 作为全球最具影响力的本地化 Markdown 笔记应用之一,估值 3.5 亿美元,但仅 7 人全职团队。它拒绝资本,靠用户付费运营,有「无会议文化」,底层插件系统强大,和 Notion 信息管理哲学不同。