「向量化内存访问」共找到 505 篇相关文章
通过查看GPU Assembly分析CUDA程序
文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例,对比普通和向量化版本,通过查看SASS代码,解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。
突发!Reddit起诉Anthropic,非法访问10万次
华尔街日报消息,Reddit起诉大模型平台Anthropic,指控其非法访问网站10万次,用用户数据训练AI。Reddit称已和OpenAI、谷歌达成合规合作,此次起诉为求赔偿并让Anthropic履约。
在 RDS PostgreSQL 中实现 RaBitQ 量化
本文介绍在阿里云 RDS PostgreSQL 上,pgvector 能力进一步增强,引入 RaBitQ 量化提升其在大规模向量场景下的表现。分析了 pgvector 面临的挑战,阐述 RaBitQ 原理、优势,给出性能测试结果及快速上手的 SQL 操作。
刚刚,Anthropic切断OpenAI对Claude的访问权限
Anthropic周二切断OpenAI对Claude模型的API访问权限,因OpenAI技术人员通过API大规模用Claude Code写代码,违反服务条款。Anthropic曾有类似操作,网友对此事看法不一。
美光财报:这一次,内存行业真的不一样了
美光财报表现亮眼,单季营收414亿美元,同比暴涨346%,毛利率从38%飙升到85%。AI让内存成战略资源,需求爆发,供给受限。美光扩产激进、技术进步快,有望进入‘以利润养扩产’正循环。
Cache Me If You Can:陈丹琦团队如何「抓住」关键缓存,解放LLM内存?
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长,此前方法难公平比较。团队提出「KV 足迹」指标,改进方法并推出 PruLong 优化内存,节省空间且保性能。
英伟达服务器涨价超15%!百亿AI基建的「内存难题」
据彭博社报道,英伟达通知客户,搭载其AI芯片的服务器价格将涨超15%,2027年初生效。涨价主因是内存需求大增、供应紧张价格上涨,这让数据中心前期投入增加,小公司更难入局。
美国解除Claude禁令,Fable 5与Mythos 5即将恢复访问
美国商务部解除针对Claude Fable 5和Claude Mythos 5的出口管制,Anthropic将恢复两款模型访问权限。此前因安全担忧模型被限制,政策逐步松动后现整体解禁,Anthropic还发布了Claude Sonnet 5。
50年僵局打破!MIT最新证明:对于算法少量内存胜过大量时间
MIT理论计算机科学家Ryan Williams最新研究建立数学程序,将任意算法转化为占用空间更少的形式,证明少量计算内存比大量计算时间更有价值,打破计算机科学家近50年认知。
60个量子比特顶百万倍内存:量子机器学习找到新的突破口
4月8日,加州理工学院等联合团队在arXiv发布论文,证明小型量子计算机处理部分机器学习任务时,可用指数级更少内存超越经典计算机。研究绕开QRAM,提出算法框架验证优势,但仍待真实硬件验证。