「输入压缩」共找到 436 篇相关文章
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
具身智能需要从ImageNet做起吗？
文章探讨具身智能发展，分析其爆发原因，如人类无法完全数字化等。指出几种失败模式，还讨论输入信号、触觉、学习方法等决策点，认为具身智能的‘ImageNet’时刻是伪命题，不同智能领域可能殊途同归。
又一家清华系具身智能企业浮出水面：天使轮融资数千万元，打造具身数据Infra丨甲子光年
清华系具身智能企业灵御智能完成数千万元天使轮融资，累计融资近亿元。其聚焦打造具身数据Infra，研发TeleAvatar和TeleDroid构建数据采集母机，锁定三类应用场景，还从两方面压缩成本。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。
刚刚，DeepSeek多模态技术范式公布，以视觉原语思考
DeepSeek发布多模态模型并公布技术报告，提出‘以视觉原语思考’。该模型解决多模态大模型‘指代鸿沟’问题，有把坐标变思维单元、7056倍视觉压缩、精心设计冷启动数据等创新，实验在多任务上超主流模型。
2.4万亿参数原生全模态，文心5.0一手实测来了
文心5.0正式发布，主打原生全模态，支持全模态输入和输出。官方测试显示其多维度表现突出，在LMArena文本排行榜并列全球第二。实测其理解精细、能捕捉细节，技术上采用自回归统一结构和超大规模混合专家架构。
实测最新开源的DeepSeek-OCR后，我有些不一样的看法，有些话可能只有我敢说
实测最新开源的DeepSeek - OCR，它并非传统OCR，不适用于传统场景。其最大意义是解决大模型上下文长度问题，通过文字图片压缩解压提高处理速度。模型功能多样，是让AI看图思考的新思路。
花了几百万办完一场AI大会后，想跟你分享这6个感悟。
作者分享举办AI大会的6个感悟，指出AI强大时线下真实更重要。如AI可消灭信息差但压缩不了体验差，品味是活出来的，线下交流能带来偶然性等，鼓励人们去线下获得真实体验。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
陶哲轩经费被断供，在线发帖自证数学有用
菲尔兹奖得主陶哲轩就职的UCLA科研经费被冻结，个人研究及应用数学研究所IPAM失去资金支持，还遭网友质疑其学术成果价值。他开新帖以“压缩感知”研究为例，力证数学研究回报，并将视野扩展到AI大模型。