缓存加速」共找到 700 篇相关文章

新闻资讯8

下一代超算,GPU得配QPU:老黄要把量子计算机和GPU「焊」在一起了

在VivaTech 2025会上,黄仁勋发布面向量子计算的革命性平台CUDA - Q。回顾英伟达CUDA - X套件及关键库,强调量子计算“拐点”,描绘QPU与GPU协同蓝图,宣布算法堆栈在Grace Blackwell 200加速

AI寒武纪
算法论文8

北大王选所彭宇新团队:让多模态大模型学会「看懂物种关系」丨CVPR 2026

北大王选所彭宇新团队在论文中提出TARA方法,引入生物分类学知识与多模态模型中间表征对齐。实验显示,TARA能提升模型层级识别和未知类别识别能力,还可加速训练收敛,计算开销小。

AI科技评论
推荐文章8

AI智能体的上下文工程:Manus的构建心得

季逸超在文章中分享了 Manus 构建 AI 智能代理的心得,包括围绕 KV 缓存设计、使用掩码管理工具、将文件系统作上下文等内容,还指出要保留错误信息、避免小样本带偏等。

AI工程化
开源动态8

如何选择最佳多模态大模型压缩方案?哈工大、度小满开源EFFIVLM-BENCH基准测试框架

金融科技智能化转型中,LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架,能为多模态大模型压缩方案出具‘体检报告’,还揭示LVLM加速复杂性,推动技术发展。

机器之心
8

谷歌公开全新极限压缩算法:LLM提速8倍、内存占用狂降6倍,精度零损失

谷歌推出全新量化算法 TurboQuant,瞄准大模型键值缓存吃内存、高维向量搜索算力瓶颈痛点,能砍内存、提速度且精度零损失。分 PolarQuant 和 QJL 两步,实验数据表现优异,将改变搜索格局。

AI寒武纪
新闻资讯7

性能翻番背后:讯飞与昇腾,如何用国产算力炼就大模型?|甲子光年

在全球AI竞争激烈背景下,科大讯飞与华为昇腾深度合作意义重大。双方合作历经四阶段,实现性能提升与技术突破,还通过软硬件协同构建AI自主发展竞争力,加速大模型行业落地。

甲子光年
新闻资讯7

马斯克刚关注了这份AI报告

受谷歌DeepMind委托,Epoch发布报告剖析2030年AI的发展。指出训练成本或超千亿美元,公开文本数据2027年耗尽等,马斯克也关注此报告。还从多方面论证发展趋势可延续,且AI将加速多领域科研。

量子位
新闻资讯7

突发!卡帕西宣布入职Anthropic

大神Karpathy宣布加入Anthropic,重回一线大厂。他曾多次在AI领域转换角色,此次将加入预训练团队,开展用Claude加速自身预训练研究。外界揣测其离开OpenAI原因,加入Anthropic能为研究提供更多资源。

量子位
推荐文章7

编程通缩——当代码一天比一天便宜会发生什么

文章探讨编程通缩现象,即AI使软件开发成本等下降。它不同于传统通缩,由生产力提升驱动,会带来延迟与实验、质量两极分化等悖论,还会加速创新,人们应培养相应技能适应。

宝玉AI
推荐文章7

一个任务50次调用,成本狂砍90%?Manus首次公开上下文工程秘诀,一堆反复重写换来的教训

Manus项目团队分享上下文工程秘诀。他们押注于此,使产品发布改进更快。还阐述围绕KV缓存设计、掩码非移除工具、用文件系统作上下文等原则,助构建AI Agent者少走弯路。

AI前线