「分层缓存」共找到 265 篇相关文章
Claude的脑子里,也长出了一块「意识」
Anthropic论文研究Claude潜意识与意识,发现其内部有类似人脑功能分层,揪出J - space。经多实验验证其特性,还能用J - lens检验AI“心里话”,但离“AI有意识”尚远。
Transformer终结者!谷歌DeepMind全新MoR架构问世,新一代魔王来了
KAIST、谷歌DeepMind等机构发布的MoR架构,推理速度翻倍、内存减半,重塑LLM性能边界,碾压传统Transformer。它融合参数共享与按需计算,有路由和KV缓存策略,实验显示其性能优越、可扩展性好。
李飞飞押注的3D世界模型黑科技,被这篇论文一次性扒光!
李飞飞创业公司World Labs发布空间智能模型成果,推出Marble平台。本文分享3D、4D世界模型技术综述,系统梳理原生表示的世界模型,给出分层分类法、数据集与评测指标,并开源维护。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?
文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。
以前写书比看书慢,现在看书比写书慢——AI时代最被低估的变局
AI时代信息生产速度超消费速度,这是文明范式转移。过去知识稀缺,现在过剩,多数人应对信息爆炸的方法有误。应从消费信息转为使用信息,这还会重塑教育、社交与社会分层。
“扁平+拓扑”双索引,85页PDF"秒级"推理,MMRag幻觉率骤降76%
文章聚焦多模态长文档视觉问答,介绍现有LVLM - based和RAG - based技术路线及困境。提出MMRAG - DocQA方案,引入‘分层索引 + 多粒度检索’,设计双索引建模相关性与依赖,用互补策略实现证据互补。
腾讯张正友:具身智能必须回答的三个「真问题」
7月27日,腾讯发布具身智能开放平台Tairos。发布会后,腾讯张正友剖析战略选择背后的三个核心问题:架构上主张分层架构;认为具身智能第一性原理是身脑融合;强调要为长远目标放弃短期商业利益。
3 层人群定位 × 5 种赋能手段,企业全员数据能力提升指南 | 极客时间企业版
在AI重构商业规则的当下,数据能力是企业核心竞争力关键。极客时间针对企业数据人才培养痛点,打造全链条数据人才培养体系,分层赋能三类人员,提供多种培养方案和赋能手段助力企业升级。
亚历山大王回应一切:LeCun、Manus,“我的父母都是中国人”
亚历山大王加入Meta近一年后首次公开回应争议。他谈了Muse Spark技术逻辑、Meta超级智能实验室架构等,还分享八卦,如与奥特曼决裂代价、小扎抢人真相,认为AI终局未开始,科技行业将分层。
内存减6倍、精度0损失,推理提速8倍!谷歌新技术震撼了AI圈
Google Research团队推出TurboQuant技术,能将KV缓存6倍压缩、无精度损失,推理速度提升8倍,解决内存瓶颈问题,为大语言模型应用扫清障碍,引发业界关注,还致存储芯片巨头股价大跌。