「显存压缩」共找到 303 篇相关文章
告别VAE压缩损耗，南京大学用DiP让扩散模型回归像素空间，实现10倍加速与SOTA级画质
南京大学、腾讯优图实验室和新加坡国立大学发布DiP框架，即将开源。该框架不依赖VAE，仅增0.3%参数量，推理提效10倍，在ImageNet获1.79的FID分数，解决扩散模型在像素空间难兼顾质效的问题。
英伟达MoE新开源：一行import，微调加速3.7倍
英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。
Clawdbot 如何搭建永久记忆管理系统：全靠 MD 文档
AI研究工程师Manthan Gupta复盘Clawdbot记忆机制，其记忆用MD文档存档，有双层记忆系统。系统有独特管理方式，如压缩、记忆刷新等，坚持透明度、搜索、持久性、混合等原则。
刚刚，OpenAI开源了两个大模型~
OpenAI开源基于GPT - OSS的安全推理模型GPT - OSS - Safeguard - 120B和GPT - OSS - Safeguard - 20B，用于安全用例。有安全推理训练、自带策略等亮点，适配不同显存，采用宽松许可证。
OpenAI 智能体工程指南：10 条实战技巧和 3 种构建模式
OpenAI 给出智能体工程实战手册，介绍用技能、Shell 工具和上下文压缩三 API 让智能体稳定工作。全文涵盖概念、10 条实战技巧、3 种构建模式，有实用案例但数据精确度存疑。
本周 5 个超酷 GitHub 开源项目，实用到飞起！
本文介绍本周5个超酷GitHub开源项目。有显示苹果设备电池状态的AirBattery，开源卫星可视化平台keeptrack.space，本地图片压缩工具Pic - Smaller，跨平台端口助手Port - Killer，轻量级AI证件照工具HivisionIDPhotos。
老黄新鲜一刀，RTX 5050正式官宣
英伟达官宣RTX 5050桌面/笔记本GPU，7月上市，国内2099元起。它搭配DLSS 4技术，性能提升显著，但显存“新旧混搭”。网友大多不太买账，认为能耗高、性价比低。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
干翻全场！OpenAI深夜发布通用Agent。
OpenAI 发布 ChatGPT Agent，将 Operator 和 Deep Research 能力融合，能在虚拟电脑完成复杂任务。它功能强大亮点多，但也存在价格昂贵、安全隐患等问题，或压缩创业公司空间。
有人只用API就猜出了GPT、Claude、Gemini的参数量？社区吵翻了
研究人员李博杰在arXiv发布论文，提出“不可压缩知识探针”评测框架，仅通过黑盒API调用逆向估算LLM参数规模，给出GPT-5.5等模型参数量估算，引发社区广泛讨论与争议。