计算专用化」共找到 1491 篇相关文章

开源动态7

mem9:让微信里的龙虾不再失忆

文章介绍了 mem9 这一给 AI Agent 用的持久记忆基础设施。它由 TiDB 团队打造,能解决 AI 失忆问题,实现记忆云端存储、无缝迁移,有两段式提取、混合搜索等功能,还能筛出重要记忆。

AGI Hunt
算法论文8

谷歌新论文把内存股价干崩了!KV cache压缩6倍,“谷歌的DeepSeek时刻”

谷歌研究院推出TurboQuant压缩算法,可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失,还能8倍加速计算。虽引发存储芯片巨头股价下跌,但目前只是实验室成果,仅解决推理阶段内存问题。

量子位
新闻资讯7

AI 太烧钱!微软选择「倒戈」DeepSeek

微软宣布Copilot Cowork全球上线并引入按使用量计费机制,还评估引入DeepSeek V4。Agent普及使AI成本问题凸显,微软进行系统性重构,构建质量保障体系,成本工程能力成竞争新焦点。

AI科技评论
新闻资讯7

300只狗试用延寿药,「寿命曼哈顿计划」启动!

1300只狗参与「延长寿命」实验,被注射由AI计算剂量的「延寿药」。AI在医疗领域作用凸显,制药、临床研究等多方面有进展。Altman等名人押注「永生」,但长寿也带来伦理等诸多问题。

新智元
新闻资讯7

中国算力芯片的“新十年”

文章指出过去40年处理器芯片发展呈“否定之否定”,近年整机和平台厂商重归自研,异构计算成趋势。未来中国算力芯片突破口在指令系统结构统一,可把RISC - V作统一指令系统开发各类芯片。

芯师爷
开源动态8

开源共建重塑推理 Infra:从架构创新到生态协同,Mooncake的破局之路

大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心,通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。

InfoQ
开源动态7

OVI:统一的音视频生成模型,声音与画面同步诞生

音视频生成领域以往多阶段架构易致音画不同步等问题。耶鲁大学团队提出 OVI 统一范式,采用双塔 DiT 架构与分块式跨模态融合机制,实现音画同步生成,不过目前有计算开销大、音频有局限等问题。

带你学AI
推荐文章7

Prompt三则(2)

文章给出三则Prompt。一是找行业‘老司机’俯瞰行业,设定前辈身份,强调实用指引;二是穿透语言看‘内核特质’,如剥洋葱般挖掘;三是将一句话‘画面’,让抽象概念成感官盛宴。

李继刚
开源动态8

北大提出首个复数大模型,2比特量,推理仅加法,可手机部署!

北大团队提出iFairy方案,将模型权重量到复数集合,用2比特表示,压缩至原本1/8。推理仅需加减或交换数据位置,成本更低。Transformer架构“复数”,iFairy模型PPL降10%,性能反超全精度,相关成果已开源。

量子位
开源动态8

Agent不会搞科研?人大微软开源框架&工具包解决盲目试错通病,抱抱脸日榜第一

AI智能体虽能完成多项任务,但大多难以自主科研,易陷入盲目试错。人大和微软研究者提出Arbor框架与工具包,借助Hypothesis - Tree对优空间结构探索,多方面表现出色,荣登Huggingface日榜第一。

量子位