「资源压缩」共找到 603 篇相关文章
不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍
英伟达联合多机构推出TTT - E2E方法，在长文本处理上提速显著且性能不打折。它基于标准Transformer，将长文本建模转为「持续学习」任务，核心是上下文压缩，避免额外缓存，代码和论文已开源。
GAIR Paper 106｜追踪视觉 Token 的演化轨迹，实现无损压缩与 60% 推理加速｜CVPR 2026
近年来大视觉语言模型虽推动多模态智能发展，但推理成本高昂。山东大学和MBZUAI团队提出TransPrune，从演化视角衡量视觉Token重要性，保持性能无损同时降低60%推理成本。
推理成本太高、算力不够用？单纯堆卡没用，得靠极致的“压缩”与“调度” | AICon
大模型落地面临推理成本高、算力需求大的问题。AICon大会上，阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案，覆盖云到边缘、多算力平台。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。
每个人的AI科学助手！全球首个通用科学智能体来了，全网资源+1.7亿学术文献让科研效率狂飙
全球首个通用科研智能体SciMaster在WAIC亮相，由上海交大与深势科技共同发布。它能结合全网资源和1.7亿科学文献，有深度调研等功能，免费且可用于工作生活多方面，还将重塑科研范式。
1B 参数跑出 2B 性能？面壁 MiniCPM5-1B 用 AI 自进化，提速 AGI 进程
全球AI行业陷入资源消耗战，面壁智能绕开物理瓶颈，提出“AI制造AI”路径。2026年5月25日发布MiniCPM5-1B，有越级性能、极致压缩比和均衡能力，源于“模型、框架、数据”自进化范式。
硅谷的「十万大裁员」：Meta按代码量裁员
2025年，AI浪潮席卷硅谷，引发新一轮裁员潮。从互联网巨头到初创企业，纷纷边裁边招，将资源转向前沿大模型。基层岗位被自动化压缩，顶尖AI人才需求飙升，裁员是职位版图重塑的前奏。
像原始人一样和AI对话，费用可直接砍掉40%
开源项目‘caveman-compression’能帮使用ChatGPT API或其他大模型的用户省钱。原理是删废话留关键信息，有调用OpenAI和本地NLP两种压缩方式，不同场景省钱效果不同，还介绍了使用方法。
三重激励+全周期扶持，即梦升级这个计划，让AI创作者的成长有迹可循
即梦AI创作者成长计划全面升级，构建覆盖三阶段的扶持体系，提供多维资源。该计划通过三重激励机制助创作者增收，还打造优质社区，持续开放至2025年12月。