「内存压缩」共找到 421 篇相关文章
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
干翻全场！OpenAI深夜发布通用Agent。
OpenAI 发布 ChatGPT Agent，将 Operator 和 Deep Research 能力融合，能在虚拟电脑完成复杂任务。它功能强大亮点多，但也存在价格昂贵、安全隐患等问题，或压缩创业公司空间。
Databricks开源限流方案，抛弃redis，性能提升10倍
Databricks 开源高性能限流系统设计，抛弃 Redis，通过内存分片和批量上报机制，实现 10 倍性能提升。还将限流算法改为令牌桶，解决了精度控制、在线迁移等问题，权衡了分布式一致性。
谷歌大佬盛赞Fable 5！23年前PC神作，40分钟塞进iPhone
谷歌DeepMind高管Ammaar Reshi用Claude Fable 5将2003年游戏《命令与征服：将军 零点时刻》原生编译到iOS，虽有内存等问题，但推动游戏保存流水线成型，即厂商开源+社区移植+AI编译。
有人只用API就猜出了GPT、Claude、Gemini的参数量？社区吵翻了
研究人员李博杰在arXiv发布论文，提出“不可压缩知识探针”评测框架，仅通过黑盒API调用逆向估算LLM参数规模，给出GPT-5.5等模型参数量估算，引发社区广泛讨论与争议。
与DeepSeek-OCR不谋而合，NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架，为大语言模型长文本推理提供视觉方案，与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读，有快 - 慢路径协作，在多任务表现优，还让模型‘用眼看文字’，优势明显。
Attention Sink产生的起点？清华&美团首次揭秘MoE LLM中的超级专家机制
清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。
显存暴降92%！哈工大为线性注意力开辟了新道路
哈尔滨工业大学等团队发现线性注意力性能不足根源是查询范数丢失等。基于此提出NaLaFormer，在ImageNet - 1K准确率最高提7.5%，超分任务峰值内存降92.3%，为线性注意力发展开辟新道路。
为什么HBM能摆脱传统周期？
当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动，而AI推理不同，大模型推理对内存依赖是硬约束，GPU更新对HBM需求几乎注定指数级增长。
本地/云电脑双模式，豆包来了！
黄叔实测豆包「工作任务」模式，其有独特的本地/云电脑双模式。本地能分析电脑内存问题，云端可处理监控任务，还能助力开发复杂项目，且Skill自动接入，与本地电脑实时同步。