计算基础设施」共找到 1022 篇相关文章

产品应用8

美团龙猫LongCat技术升级!新注意力机制解码速度快10倍,还能处理1M超长文本

美团龙猫LongCat系列发布全新稀疏注意力机制LoZA,重点解决长文本任务难题。它在MLA机制基础改造,计算复杂度降至线性,处理128K上下文解码快10倍,性能不缩水,后续还计划支持动态稀疏比例。

量子位
开源动态7

mem9:让微信里的龙虾不再失忆

文章介绍了 mem9 这一给 AI Agent 用的持久化记忆基础设施。它由 TiDB 团队打造,能解决 AI 失忆问题,实现记忆云端存储、无缝迁移,有两段式提取、混合搜索等功能,还能筛出重要记忆。

AGI Hunt
算法论文8

谷歌新论文把内存股价干崩了!KV cache压缩6倍,“谷歌的DeepSeek时刻”

谷歌研究院推出TurboQuant压缩算法,可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失,还能8倍加速计算。虽引发存储芯片巨头股价下跌,但目前只是实验室成果,仅解决推理阶段内存问题。

量子位
新闻资讯7

300只狗试用延寿药,「寿命曼哈顿计划」启动!

1300只狗参与「延长寿命」实验,被注射由AI计算剂量的「延寿药」。AI在医疗领域作用凸显,制药、临床研究等多方面有进展。Altman等名人押注「永生」,但长寿也带来伦理等诸多问题。

新智元
新闻资讯7

中国算力芯片的“新十年”

文章指出过去40年处理器芯片发展呈“否定之否定”,近年整机和平台厂商重归自研,异构计算成趋势。未来中国算力芯片突破口在指令系统结构统一,可把RISC - V作统一指令系统开发各类芯片。

芯师爷
开源动态8

开源共建重塑推理 Infra:从架构创新到生态协同,Mooncake的破局之路

大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心,通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。

InfoQ
开源动态7

OVI:统一的音视频生成模型,声音与画面同步诞生

音视频生成领域以往多阶段架构易致音画不同步等问题。耶鲁大学团队提出 OVI 统一范式,采用双塔 DiT 架构与分块式跨模态融合机制,实现音画同步生成,不过目前有计算开销大、音频有局限等问题。

带你学AI
新闻资讯7

突发!特朗普刚刚发布《美国AI计划》,OpenAI、微软、亚马逊成大赢家

今天凌晨,特朗普公布《美国AI行动计划》,含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令,旨在让美成全球AI霸主,还将中国列为对手,多官员表态肯定该计划。

AIGC开放社区
算法论文8

重构线性视觉Transformer,精度与效率双平衡 | CVPR'25

南洋理工、北航与合工大联合提出CARE Transformer,以非对称解耦建模局部与全局,降低计算开销、提升特征表达。实验显示其在移动端低延迟高精度,打破“效率与精度不可兼得”困局。

新智元
产品应用7

Thinking Machines 发布 Tinker API,实现灵活的模型微调

Thinking Machines公司发布Tinker API用于开放权重语言模型微调,可减少开发者基础设施开销。支持多种模型架构,集成LoRA,还发布开源存储库。虽有竞品,但Tinker侧重暴露低级原语,尚处封闭测试。

AI前线