「压缩操作」共找到 783 篇相关文章
对抗KV Cache压缩的脆弱性:两行代码以最坏风险控制防御底层假设崩塌
中科大团队在 ICLR 2026 论文中指出 KV Cache 压缩领域底层假设存在缺陷,主流方法基于的稳定性假设在真实场景中脆弱。团队提出防御性聚合策略,仅两行代码修改,显著提升 KV Cache 压缩性能。
谷歌把电脑操作能力塞进Gemini 3.5 Flash!自己看屏幕狂点70轮
谷歌将电脑操作能力Computer Use内置进Gemini 3.5 Flash,该AI能通过看屏幕操作电脑,可执行点击、打字等动作。其覆盖网页、桌面软件和移动端,还加入安全约束机制,在基准测试中表现良好。
谷歌新论文把内存股价干崩了!KV cache压缩6倍,“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法,可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失,还能8倍加速计算。虽引发存储芯片巨头股价下跌,但目前只是实验室成果,仅解决推理阶段内存问题。
通用LLM压缩算法,居然藏视频编码里!2.5bit实现4bit性能,硬件无缝支持
LLM.265研究发现,视频编码器是高效的大模型张量编码器,现成视频编解码硬件压缩AI模型数据效率高。它灵活控制码率、可压缩多种张量,还能利用GPU硬件加速。实验显示其压缩效果显著。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT:近乎无损 超越KIVI,内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高,限制模型批量处理能力。论文提出OTT方法,动态追踪异常令牌单独高精度保存,其余压缩。实验显示,它准确性高、效率好,不过在极短文本等场景有局限。
一站式机器人操作控制框架ManiUniCon
ManiUniCon是多进程机器人控制框架,为操作任务设计。有模块化设计、多机器人支持等特性,介绍了架构、支持的硬件、安装方法、使用方式、开发途径及可用工具等内容。
大模型终于能“听懂”云操作了?
本文介绍通过MCP Server和大模型结合实现云产品管理的自然语言操作。作者分享上手体验、探究原理、进行代码验证,解决使用问题,还提出后续优化方向和未来展望,如拆分MCP Server、建立云产品Agent等。
我在手机上也能操作AI OS
作者介绍其AI操作系统,由OpenCode加newtype Profile插件及内容仓库构成。此前只能桌面端操作,现通过OpenCode服务器模式和Discord bot,实现手机与系统打通,让记忆资产随时可用,提升内容生产效率。
Agent记忆系统:6大核心操作全景解读
自LLM进入Agent时代,记忆模块成研究重点。以往研究有缺憾,作者提出全面AI记忆研究框架,对记忆表示分类,引入六种基本记忆操作,并映射到多方面,还阐述各部分具体方法。
Talos Linux:为 Kubernetes 操作带来不可变性和安全性
Sidero Labs开发了专为运行Kubernetes的不可变操作系统Talos Linux及集群生命周期管理平台Omni。InfoQ采访Sidero团队,探讨其以极简和安全优先理念简化Kubernetes操作,还谈及产品战略、应用场景等。