「前缀和计算」共找到 7288 篇相关文章
大模型之外,向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成,而Agent需获取外部数据等。向量存储可将数据转化为语义向量,在Agent执行任务时找回相关内容。文章探讨向量存储技术方向,分享做法,还演示阿里云两种Serverless向量存储用法。
最新智能体自动操作手机电脑,10个榜单开源SOTA全拿下|通义实验室
通义实验室推出Mobile - Agent - v3智能体框架,在多核心榜单获开源最佳。它能完成复杂任务,在多智能体框架中灵活切换角色。团队搭建云环境基建,从多维度构建数据,用强化学习和多智能体协作提升其性能。
顶级视频模型半衰期只有 30 天,但生成式媒体 infra 公司的收入却在一年增长了 60 倍
文章聚焦生成式媒体 infra 公司 fal.ai,其借统一 API 和云端平台让开发者高效调用多模态模型。深入分析其成功因素,如早期押注生成式视频、优化算力和成本、构建生态等,还探讨用户使用模式与行业发展趋势。
Mini-sglang-01:从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang,详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程,分析核心组件功能、消息体系、正反向链路及优化策略,还预告后续分析调度和模型实现逻辑。
烧钱,能解决 AI 存储的焦虑吗?
存储短缺焦虑或延续至 2026 年,传统云存储因 AI 落地面临性能、成本等压力。InfoQ 联合腾讯云邀行业人士探讨成因、策略与竞争主线,还给出存储价值评估与规划方法,介绍文远知行和腾讯云实践。
从检测到通用感知:构建空间智能的基础
本文整理自张磊在AICon 2025北京的分享,分析语言与视觉原生模型架构区别,介绍基于Transformer的物体检测算法及开集检测技术进展,如Grounding DINO和DINO - X,还探讨其在多领域的应用和潜力。
AI秒懂短视频,快手大模型Keye-VL理解力爆表!技术细节全开源
快手全新多模态大语言模型Kwai Keye-VL上线且开源,能深度融合多模态信息,在视频理解、复杂视觉感知和逻辑推理上表现优异。介绍了其技术架构、预训练和后训练策略及训练架构优化等内容。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播,邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。
全员 token-maxxing,一场没人敢停的军备竞赛|五源孟醒 AI 观察
2026年3月底,五源资本合伙人孟醒赴硅谷考察,回国后分享一手观察。当前AI迭代极快,硅谷陷入全员token - maxxing军备竞赛,xAI团队雪崩,工程师和研究员焦虑,英伟达掌控算力,估值体系重写,还出现安全危机。
市值冲上2036亿港元!这家芯片“隐形冠军”在港交所敲钟了
2月9日,澜起科技于港交所主板正式挂牌上市,上市首日市值达约2036.69亿港元。它由杨崇和等创立,专注内存接口芯片领域,技术领先,业绩受技术与产业周期影响,嵌入全球AI基础设施核心供应链。