本地部署」共找到 916 篇相关文章

推荐文章7

深度剖析将 Kafka 构建在 S3 上的技术挑战与最佳实践

文章基于AutoMQ深入剖析将Kafka构建在S3上的挑战与解法。探讨延迟、IOPS、缓存管理等问题,介绍AutoMQ应对策略,如用WAL+S3架构降低延迟、批处理数据减少请求等,还提及Kafka兼容性及跨区流量成本处理。

InfoQ
推荐文章8

AI-Native 的 Infra 演化路线:L0 到 L5

文章来自 Agent Infra 创业者 Hang Huang,以其产品开发实践经验,分享 Agent Infra 机会。指出 AI 编程生产力跃迁,从写代码到掌控软件全生命周期是趋势,还提出 L0 - L5 模型描述 AI-Native Infra 演化路径。

海外独角兽
算法论文8

让AI学着“看菜下碟”!港中大等新框架让推理长度减少90%,准确率反增17%

香港中文大学等研究者提出TON选择性推理框架,使视觉语言模型能自主判断是否推理。该框架有两阶段训练机制,实验显示其让推理长度最多减90%,准确率还提升,有益模型部署

量子位
开源动态8

开源 AI 文档生成器!给代码库做个CT扫描,一键生成交互式Wiki文档!

介绍开源工具DeepWiki-Open,它由AsyncFuncAI开发,能将GitHub或GitLab仓库一键转为交互式Wiki,基于多种技术实现代码分析和自动化文档生成,解决开发者理解复杂代码库的痛点,还给出快速上手步骤和适用人群等。

开源星探
新闻资讯7

一个跑智能体,一个专门找漏洞:Google发布Gemini 3.8双版本

9月2日,Google发布Gemini 3.8 Flash和Gemini 3.8 Flash Cyber。前者用于编程等,已稳定上线;后者专用于发现修复漏洞,仅向特定方开放。二者共享基础能力,采用不同安全限制和部署环境。

AIGC开放社区
新闻资讯7

Grok Bot代码也泄露了?

8月23日X上有人称Cursor团队发布的Grok Bot 0.18.0,runtime source map是开着的,此人重构其客户端代码并放于GitHub,一天浏览量约88万。该重构项目有诸多实用实验和功能。

GitHubStore
产品应用7

AI 企业 Day 0 出海,如何少走技术弯路?

InfoQ与多家AI出海企业交流发现,很多企业放弃常见Agent平台和流行框架,选择自研全栈平台。GMI Cloud升级产品,构建完整基础设施图谱,解决全球算力部署、模型调用和Agent商业化落地问题。

InfoQ
推荐文章7

分裂的丰盛:AI时代的财富会落到谁手里?

作者重读《国富论》,借亚当·斯密的思考探讨AI时代财富分配。指出AI带来‘分裂的丰盛’,分析了AI自动化的两面性,结合历史案例说明生产率与工资增长的关系,还从三层分析AI对财富的影响,并给白领提出四条建议。

花叔
开源动态8

英伟达MIT出手!华人团队重磅开源,大模型推理内存暴降10倍

英伟达、MIT、浙大华人研究者联合推出TriAttention,核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性,保留关键部分。它使内存消耗降10倍,吞吐量提2.5倍,还提供vLLM集成和MLX实验性支持。

新智元
推荐文章8

现有AI都是假实时!Thinking Machines发布交互模型,离真正的贾维斯真的近了

Thinking Machines发布交互模型,切入与AI交互方式问题。该模型能原生支持实时交互,由交互和后台模型组成。架构设计独特,解锁多项功能,评测表现佳,但也存在长会话、计算部署等局限。

AI寒武纪