「显存压缩」共找到 286 篇相关文章
硬件成本直降60%！原生分布式VS传统分库分表数据库
服务器硬件价格上涨，传统分库分表架构资源利用效率低。OceanBase 作为原生分布式数据库，通过多种技术优化资源，降低硬件依赖，多个案例显示其能大幅降低成本、提升性能，获 Forrester 认证。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
GPT-6 真要来了！OpenAI全新推理架构“循环深度”首次曝光：可榨出14倍参数潜能
OpenAI将推旗舰模型GPT - 6（内部代号Astra），采用“循环深度”新技术，能榨出14倍参数潜能，降低成本，但会使AI推理过程不可读，加重安全担忧。OpenAI已因该模型“能力过强”踩刹车。
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。
挑战Claude code和Cursor：阿里Qoder对标全球，AI编程迎来“上下文”革命
AI编程工具爆发式增长，‘上下文’成实用化难题。阿里推出Qoder平台，结合大模型与Agent，可深度检索代码、理解上下文。本文采访Qoder团队工程师，解析其定位、成本、技术路线等关键问题。
Meta超级智能实验室首篇论文：重新定义RAG
Meta超级智能实验室首篇论文提出REFRAG框架，重新定义RAG。它通过“压缩、感知、扩展”流程优化LLM处理外部知识方式，最高将首字生成延迟加速30倍，且性能无损。
1M 上下文时代太费 Token，告诉你我的 Coding Agent 省钱方法
当下GPT-5.5等模型原生支持1M上下文，虽能支撑长任务，但易被噪音干扰且费Token。作者以Claude Code为例，介绍做好会话管理的多种省钱方法，如根据任务选择会话策略、利用rewind功能等。
外国科学家从汉字中找到了设计超强材料的灵感！“天”字形材料最坚固
4月21日爱丁堡大学研究人员在《应用物理学杂志》发文，将“人”“大”“天”“夫”字形转化为超材料结构单元，经压缩实验发现汉字字形中藏力学规律，“天”字形材料性能最优。
2026 编程巨变：Anthropic 报告揭示 Agent 编程八大趋势
Anthropic发布《2026 Agent编程趋势报告》，预测写代码将从‘人写’变为‘人指挥AI Agent写’。报告梳理八大趋势，分基础、能力、影响三类，还给出2026年需关注的领域，指出AI改变开发者工作内容。
这个框架让大模型省下50%内存，合并专家不如直接删掉？
Cerebras Research提出REAP框架，通过专家剪枝和合并技术压缩SMoE模型，能让模型‘瘦身’并保持性能，可省50%内存，但社区测试有不同结果，且存在调度开销等问题。