高可用机制」共找到 2790 篇相关文章

产品应用8

借鉴人脑「海马体-皮层」机制,红熊AI重做了一个「记忆系统」

记忆成AI进化关键,Google Research新论文提出「嵌套学习」范式。红熊AI受业务难题启发,推出「记忆熊」,借鉴人脑机制重构记忆系统,在多场景应用落地,提升了服务质量和效率。

机器之心
开源动态7

国产 AI 昇腾推理不再门槛?开源技术栈推理性能对比解析

文章聚焦昇腾 NPU 大模型推理,对比 MindIE 和 vLLM Ascend 推理性能。因 MindIE 使用门槛,昇腾联合 vLLM 社区推出插件。实验用 GPUStack 平台,结果显示二者在不同场景各有优势,呼吁构建国产 AI 基础设施体系。

PaperAgent
新闻资讯8

猎头黄仁勋的2025:管从巨头挖,干活钟爱华人创业团队

2025年英伟达在黄仁勋带领下,通过“黄氏挖人+黄氏收购”重塑“第二增长曲线”。一方面从谷歌、微软等巨头挖管,补齐关键能力;另一方面收购初创公司吸纳核心团队与技术,多来自华人创业者。

量子位
算法论文8

Mamba核心作者新作:取代DeepSeek在用的注意力机制,专为推理打造

Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制,在减少KV缓存用量、保持模型质量的同时,显著提升解码速度,优化长上下文推理能力。

量子位
新闻资讯7

为 AI 智能体设计记忆机制:揭秘 LinkedIn 的认知记忆智能体

LinkedIn推出认知记忆智能体(CMA),作为生成式AI技术栈一部分,解决大语言模型缺乏状态记忆问题。CMA有三层记忆,集成多种机制,在多智能体系统中作用关键,还将人工校验融入招聘应用。

InfoQ
算法论文8

时空压缩!剑桥大学提出注意力机制MTLA:推理加速5倍,显存减至1/8

在大语言模型发展中,Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA,结合时空压缩策略,提升推理效率,在多任务中表现出色,代码已开源。

机器之心
新闻资讯7

疯狂小扎边裁员边给管发钱!元宇宙硬件成重灾区

据纽约时报等报道,Meta近日一边裁700人,涉及多部门,内部还评估更大规模调整;一边为6位核心管设股权激励,收益与股价挂钩。这源于AI烧钱,Meta要开源节流,优先AI等现实方向。

量子位
开源动态8

TEN VAD 开源:低延迟、准确率,提升「语音 Agent」上限就靠它!

TEN-VAD是专为实时流式语音场景优化的开源模型,能解决语音交互中常见问题。它轻量级、跨平台、性能、低延迟,获大佬背书,在多场景是必选组件,是语音交互里易被忽略却难替代的一环。

开源星探
产品应用8

Claude最强Fable 5.1发布!8项屠榜,最降价45%,反蒸馏机制上线

Anthropic发布Fable 5.1和Mythos 5.1,8项基准测试夺冠,价格最降45%。展示科研成果,如蛋白质设计、生成金星地图等。上线反蒸馏机制,防止篡改上下文,还给出替代方案。

量子位
推荐文章7

MCP手进阶【一】:彻底弄懂生命周期管理器(Lifespan)的机制与用法

文章深入解读MCP SDK开发级技巧,聚焦生命周期管理器(Lifespan)机制与用法。先介绍Python上下文管理器,再讲FastAPI的lifespan,接着说明MCP Server的使用流程,最后分析不同传输模式下的工作方式。

AI大模型应用实践