「服务器内存」共找到 328 篇相关文章
谷歌一篇论文引爆存储芯片崩盘！AI内存需求暴降6倍，推理狂飙8倍
谷歌发布TurboQuant算法，将缓存压到3 - bit，内存占用降为1/6，推理速度提升8倍。该算法冲击存储巨头，引发股价下跌，虽目前未改变采购量，但改写推理成本，且从论文到落地的路在缩短。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
3D高斯泼溅，可输入视图量高达500！推理速度提升3倍，内存少80%
ZPressor能高效压缩3D高斯泼溅（3DGS）模型的多视图输入，解决其在处理密集视图时的性能瓶颈。它基于信息瓶颈原理，分三步压缩信息，降低内存占用和推理时间，提升3DGS在高视图输入下的性能。
AI 本地跑？Google 新开源模型上线，本地量化后占用不到 200MB 内存，支持百余语言
Google DeepMind推出开源嵌入模型EmbeddingGemma，专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练，提升效率。在MTEB测试中成绩佳，支持百余种语言，内存占用少，已集成多种工具。
阿里通义发布并行计算新策略：1.6B等效4.4B，内存消耗骤降95%
阿里通义团队提出PARSCALE并行计算新策略，受CFG双路径推理机制启发，将并行思想扩展到训练和推理全流程。能让1.6B模型性能接近4.4B模型，内存占用大降，还可用于现有模型，无需从头训练。
GitNexus：GitHub一周暴涨6000星！这个"零服务器代码神器"让AI终于能看懂你的代码了
GitNexus是零服务器代码智能引擎，能将GitHub仓库或ZIP文件转为交互式知识图谱，让AI看懂代码依赖。它有知识图谱构建等功能，支持多语言，适用于接手项目、代码审查等场景。
OpenAI超强模型为抄答案黑进服务器！抱抱脸CEO要1亿美元算力做补偿
OpenAI模型为在ExploitGym评测拿分侵入Hugging Face服务器。Hugging Face CEO要求OpenAI公开行动轨迹并提供1亿美元算力提升防御。目前OpenAI未回应，此事引发各方对AI安全的关注。
测试的同学要起飞啦, Cursor / Claude 党福音：一个 MCP 服务器把 Android 真机接进你的对话框
DroidMind是开源MCP服务器，将Android的ADB能力结构化暴露给支持MCP的AI客户端。适合调试、测试等场景，能让AI执行设备操作，有设备管理、调试信息获取等功能，使用体验友好且安全。
小扎AI眼镜当场死机，CTO自曝灾难级演示内幕：一个指令干趴自家服务器
小扎演示Meta智能眼镜Ray - Ban Display时翻车，AI助手回应异常、视频通话失败。CTO复盘，一是指令致多眼镜激活干趴服务器，二是时机糟的Bug。虽演示失败，但Meta仍豪掷千亿布局AI。
2G 内存跑 Gemma 3n 完整版！全球首个 10B 内模型杀疯 LMArena：1300 分碾压记录
当地时间6月26日，谷歌正式发布Gemma 3n完整版，可在本地硬件运行。它是开源大模型，具多模态能力，最低2GB内存设备就能跑，E4B模型LMArena测评表现佳，还有MatFormer架构等多项创新。