「全局内存」共找到 279 篇相关文章
OOM排查之路：一次曲折的线上故障复盘
文章复盘了整合Paimon数据湖与RocksDB的系统三次OOM故障排查过程，分享曲折经历，介绍MAT、NMT等排查工具，还给出内存问题排查思路，望为相似技术栈者提供启发。
codex降智大bug找到了，一句话让它把智商找回来！
近日Codex被降智，网友监测其智商曲线下降。L站大佬发现大bug及解法，在全局agents.md加特定语句，可让它大幅恢复智商。测试显示，加语句后正确率提升，降智概率降低。
推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型，使推理成本降75%，内存占用为BF16模型四分之一，生成token速度提4倍，还能降低硬件资源需求。不过MXFP4也有缺陷，英伟达推出NVFP4提升质量。
这，太狠了：35k Star Lightpanda
本文介绍GitHub上35k Star的开源项目Lightpanda，它是专为Agent自动化打造的轻量无头浏览器，从零开发砍掉冗余桌面外壳，大幅降内存提速度，明确说明了适用场景与使用边界。
比爆火的OpenClaw更王炸？这台百元神机，已经能让AI长出手脚帮你打工了
英伟达DGX Spark因内存供应紧张涨价，4万的成本让预算敏感者望而却步。阿里云无影个人云超算服务性价比高，按量付费百元左右。其AgentBay让AI获“手脚”，还具OpenClaw没有的能力。
刚开源仅3天狂揽4.9K star，轻量超高效版OpenClaw，10美元硬件就能跑！
OpenClaw火遍全网但硬件要求高、成本不菲。新开源的PicoClaw是其轻量替代方案，由Sipeed开发，内存占用少、启动快、成本低、便携性强，安装简单，功能多样，刚开源就成热议新星。
DeepSeek发布最新论文，5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文，从硬件架构和模型设计双视角探讨高效训练和推理，提出DeepSeek - MoE、多头潜在注意力等创新技术，解决内存、计算效率等难题。
DiffMoE：动态Token选择助力扩散模型性能飞跃，快手&清华团队打造视觉生成新标杆！
清华大学和快手可灵团队推出DiffMoE，通过创新的动态token选择机制和全局token池设计，拓展了扩散模型的效率与性能边界。实验表明，DiffMoE在多方面超越现有模型，未来集成先进技术或有新增益。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。