「显存压缩」共找到 303 篇相关文章
花了几百万办完一场AI大会后，想跟你分享这6个感悟。
作者分享举办AI大会的6个感悟，指出AI强大时线下真实更重要。如AI可消灭信息差但压缩不了体验差，品味是活出来的，线下交流能带来偶然性等，鼓励人们去线下获得真实体验。
混元3D世界模型1.0 lite版本发布，消费级显卡就能跑
腾讯混元3D世界生成模型HunyuanWorld 1.0发布即开源，可在消费级显卡运行，还能兼容传统CG管线。它分层实现3D生成，通过量化等技术降低显存开销，与同类模型相比优势明显。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
MiniCPM-o 4.5 技术报告发布：全双工全模态 API 开放，RTX5070即可实时运行
面壁智能联合多机构发布 MiniCPM-o 4.5 技术报告，公开 Omni-Flow 框架。该模型 9B 参数实现端到端全双工全模态，开放在线 Demo、API 等，最低 12GB 显存 GPU 可运行，在多维度评测表现出色。
陶哲轩经费被断供，在线发帖自证数学有用
菲尔兹奖得主陶哲轩就职的UCLA科研经费被冻结，个人研究及应用数学研究所IPAM失去资金支持，还遭网友质疑其学术成果价值。他开新帖以“压缩感知”研究为例，力证数学研究回报，并将视野扩展到AI大模型。
炸裂提速30倍！Meta提出REFRAF，无需改动模型，让RAG告别冗余与等待
近年来，RAG任务在提升模型回答质量的同时带来性能代价，Meta等团队合作提出REFRAG框架。它将无关段落压缩，引入强化学习选关键段落，实现高达30.85倍的TTFT加速，且无需改模型结构，实用性强。
OpenAI发布GPT-5.1 Codex Max，编程能力比Gemini 3更强、更持久
为换回注意力，OpenAI紧急发布GPT - 5.1 Codex Max。它在编程测试中表现优于Gemini 3 Pro，还实现24小时项目级开发。引入自动压缩与扩展推理改进，效率提升，现已多途径可用，API访问将开放。
极致优化Android平台APK的大小
文章以Android为例，介绍UE包可裁剪部分的优化思路与实践，优化APK大小和Native库运行时内存占用。从压缩NativeLibs、代码体积优化、资源裁剪等方面着手，还给出优化效果和额外资料。
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
ACL'25最佳论文解读 | 大模型也会‘弹簧回弹’？揭秘 LLM 对齐的脆弱根源
本文分享 ACL 2025 最佳论文，指出预训练大模型存在‘抗对齐’的 Elasticity 现象，即对齐微调只是暂时拉伸，后续微调会让其迅速弹回预训练分布。研究量化该概念，用‘压缩理论’刻画对齐并实验验证。