搜索：混合推理架构

「混合推理架构」共找到 3651 篇相关文章

硅谷前沿访谈：CUDA之父复盘英伟达20年护城河，揭开万亿算力帝国的底牌

奇点智能研究院院长李建忠采访了“CUDA 之父”Ian Buck，探讨 CUDA 20 年演进、英伟达技术产品及生态。Ian Buck 介绍了 AI 基础设施新阶段，阐述 CUDA 成功原因，还谈及英伟达软硬件协同、应对竞争等问题。

文章聚焦用 CodeBuddy 写 PPT，先指出写 PPT 的痛点，介绍 CodeBuddy Skills 解决方案，接着阐述安装、实战场景、使用技巧，深度剖析 PPT Skill 原理、架构等，最后说明优势与局限，助力摆脱 PPT 难题。

10月25日，SGLang联合美团、亚马逊云科技在北京举办国内首场Meetup。SGLang是开源高性能推理引擎，特性丰富。活动中大咖和开发者分享见解、进展、应用场景，展现其社区活力与发展潜能。

清华大学朱军教授团队与NVIDIA Deep Imagination研究组联合提出分数正则化连续时间一致性模型（rCM），将连续时间一致性蒸馏扩展至大模型，解决现有方法瓶颈，提升推理速度兼顾质量与多样性。

Elastic 中国社区首席布道师刘晓国，分享基于 Elasticsearch 创建企业 AI 搜索应用实践，介绍其向量搜索技术及 RAG 应用开发，还提及智能时代搜索需求变化、混合搜索优势及 Elasticsearch 优化改进等内容。

近期Anthropic分享构建多智能体研究系统最佳实践，提出8条研究智能体的提示工程与评估原则。其架构采用协调者 - 工作者模式，与传统RAG方法不同，使用多步骤搜索动态查找信息。

谷歌推出视频生成模型Veo 3，一句提示词就能打造电影质感短片，还能音画同步，引发网友惊叹。DeepMind CTO在访谈中表示，规模非AGI唯一要素，还提及Deep Think模式及Veo 3进展等。

自变量机器人发布全球首个世界统一模型架构的具身智能基础模型WALL - B，它打通视觉、听觉等模块，让机器人理解物理世界。还让机器人拥有多能力，通过真实家庭数据形成数据飞轮，助力其融入家庭。

在AI算力争霸时代，英伟达GPU市值狂飙，但蛋糕正被分食。前谷歌TPU工程师Henry揭秘TPU，从架构、产能、软件等维度分析其优缺点，指出在特定条件下TPU可挑战GPU，未来芯片市场将百花齐放。

美国当地时间3月17日，月之暗面（Kimi）创始人杨植麟在英伟达GTC演讲，介绍Kimi技术路线图。他提出开源模型要出色，给出Token效率、长上下文、智能体集群三个概念，还探索了未来架构，且将创新开源。