「KV Cache 压缩」共找到 254 篇相关文章
清华、西交联合开源发布了Cheers : 一条更简洁、更高效的统一多模态路线
清华、西交联合开源发布CHEERS，提出面向统一多模态理解与生成的架构路线，在保持系统简洁前提下，统一理解与生成任务，继承开源预训练模型知识，在多项基准测试中表现优异，还实现4× token压缩。
中国机器人手机火爆MWC！老外快门按得根本停不下来
2026年MWC巴展上，荣耀推出的机器人手机Robot Phone引发关注。它有外接云台摄像头，能全角度AI视频通话、互动拍摄，还可结合旗下人形机器人联动。其结构压缩，AI能力强，打开了手机设计新思路。
Agent 2.0时代来了，首批「工业级智能体」正在核心位置上岗
近日科技圈感叹AI工具提升效率，谷歌工程师分享使用智能体经历。1月7日阿里云百炼全面升级，开启智能体‘工业化流水线’时代，解决技术落地问题，发布企业版，推动人机协同时代到来。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
小扎万字檄文炮轰硅谷，Meta重磅开源30B小钢炮！一台MacBook就能跑
Meta发布全新30B大模型Muse Glimmer并开源，用4-bit量化等技术让其能在本地设备运行，有五大核心超能力且采用Apache 2.0协议。同时，Meta CEO小扎发表万字檄文暗讽OpenAI等，抨击AI末日论等观点。
大神周末开源省token野路子，claude fable5账单砍掉6成
外网大神周末开源插件，将模型上下文等渲染成图片，可让账单降低59% - 70%。原理是图片token只与像素尺寸有关。此前因模型识图能力差难落地，fable5证明其极限省钱且效果保留。
离谱！一句话+百元预算，这只龙虾就给我搓出了一支百万级广告片？
广告片创作成本高、耗时长，生数科技的Vidu Claw能一句话完成创意到成片全流程，同步发布的Video Plan将成本可控化。实测它能胜任多种广告场景，还把工期从N天压缩到1天。
黑森林FLUX.2 Klein开源，亚秒级高质量图像生成和编辑，普通电脑就能跑
黑森林实验室发布开源的FLUX.2 Klein模型家族，是紧凑架构，将高质量图像生成与编辑速度压缩至亚秒级，在消费级显卡实现旗舰性能。其统一架构打破生成与编辑壁垒，还与NVIDIA合作优化。
RecGPT-阿里的LLM推荐系统落地方案
文章介绍阿里RecGPT推荐系统落地方案，包括召回和推荐可解释性两方向。召回采用三塔结构，通过挖掘用户兴趣生成商品标签提升召回多样性。还提及行为序列压缩、推荐归因等，以及大模型微调和评估方法。
为什么堆算力救不了大模型
文章指出大模型和人类大脑归纳规律路径不同，AI追求精确但脆弱的拟合，人追求粗糙但不变的压缩。大模型在可收敛系统表现惊艳，不可收敛系统则崩盘，未来AI产品核心是打造可收敛封闭环境。