内存压缩」共找到 397 篇相关文章

算法论文8

Attention Sink产生的起点?清华&美团首次揭秘MoE LLM中的超级专家机制

清华和美团研究聚焦MoE LLM,首次发现超级专家子集。通过多模型实证分析,揭示其分布规律、重要性及对注意力机制的影响,开发识别工具,为模型压缩提供新方向。

机器之心
算法论文8

显存暴降92%!哈工大为线性注意力开辟了新道路

哈尔滨工业大学等团队发现线性注意力性能不足根源是查询范数丢失等。基于此提出NaLaFormer,在ImageNet - 1K准确率最高提7.5%,超分任务峰值内存降92.3%,为线性注意力发展开辟新道路。

AIGC开放社区
新闻资讯7

为什么HBM能摆脱传统周期?

当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动,而AI推理不同,大模型推理对内存依赖是硬约束,GPU更新对HBM需求几乎注定指数级增长。

newtype AI
产品应用7

本地/云电脑双模式,豆包来了!

黄叔实测豆包「工作任务」模式,其有独特的本地/云电脑双模式。本地能分析电脑内存问题,云端可处理监控任务,还能助力开发复杂项目,且Skill自动接入,与本地电脑实时同步。

AI产品黄叔
产品应用7

Cloudflare 发布 Dynamic Workers 公开测试版:基于 Isolates 的沙箱环境执行 AI 智能体代码

Cloudflare 推出 Dynamic Worker 公开测试版,面向付费用户。它用 V8 Isolates 运行代码,启动快、内存效率高,基于 Code Mode 理念,用 TypeScript 接口定义 API,有多种防护策略,还发布配套库,已用于生产。

AI前线
产品应用7

使用 Claude Code:会话管理与 100 万 上下文

本文是 Claude Code 的产品使用指南,介绍了其新更新的 /usage 命令,阐述了上下文、压缩、衰减等概念,还给出会话管理建议,如何时开新会话、用回溯替代纠正等,助用户用好该工具。

宝玉AI
开源动态8

皮皮虾也来了!超低成本超高效版OpenClaw

PicoClaw是超轻量级个人AI助手,灵感源于nanobot,用Go语言重构。它成本低、内存占用少、启动快,支持多架构。还介绍了安装、配置、聊天应用等使用方法,及命令行参考和定时任务功能。

GitHubStore
新闻资讯8

OpenAI深夜双王炸!GPT-5.1 Pro紧急发布,降维打击Gemini 3

OpenAI同一天发布GPT-5.1 Pro和GPT-5.1-Codex-Max。前者向Pro订阅用户推出,主打「情商智商」双强;后者在Codex平台上线,专为「长时间、高强度」开发任务设计,采用「压缩」机制,表现出色。

新智元
新闻资讯7

GoPro卖身了,准备搞光模块

当地时间9月1日,GoPro与Starman Optical达成合并协议,后者2.85亿美元收购约90%股权。GoPro曾辉煌,后因产品、对手、内存等问题衰败。Starman看中专利等,GoPro或涉足新领域。

DeepTech深科技
产品应用8

MiniMax都在用!5500PB幕后功臣首次亮相,国产黑马祭出杀招

AI浪潮中,数据流不动致GPU算力空转,XSKY星辰天合举办AIMesh产品战略发布会破局。AIMesh含三网,分别解决IO墙、重力墙、内存墙问题,且开放解耦,获多方认可。

新智元