搜索：服务器内存 - AI Reading Hub

「服务器内存」共找到 340 篇相关文章

本地版Jev 1G内存就能跑！四舍五入等于不要钱啊

Jev爆火一周后，开发者推出适配Apple MLX框架的Laya-MLX，是开源决策模型Laya的原生本地版，最低仅需不到700M内存即可在Mac运行，速度快准确率高，适合高频短决策任务。

本文介绍面壁智能和OpenBMB最新开源的端侧多模态大模型MiniCPM-V 4.7，其35B-A3B版本总参数35B，推理仅激活3B，仅需3G内存即可在iPhone等手机断网流畅运行，性能领先同类模型，详解了其优化技术与行业价值

安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。

AI算力需求使全球内存市场疯狂，黄仁勋称存储技术需重构。XSKY星辰天合发布AIMesh方案，战略转向数据智能，其方案可破传统存储架构三堵墙，还坚持中立，助力企业数据转化。

文章以线上环境内存告警排查为例，介绍过程和思路。发现老年代因大量不可达对象占用且未触发FullGC致告警，排查出对象提前晋升是主因，还给出调整参数、减少对象产生等解决办法。

全网被新型SBTI人格测试刷屏，服务器被挤崩。它解构MBTI框架，精准捕捉年轻人情绪。开发者用Claude Code完成逆向复刻，还做了改进。如今做产品门槛降低，未来SBTI或由AI打造。

英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。

17名美国消费者和小企业主起诉三星、SK海力士和美光，指控其合谋减产、抬高内存价格。二十年前它们就有类似前科。郭明錤预计‘内存荒’至少持续到2027年，这让诉讼意义复杂。

基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。

开发者运行OpenClaw成本高，Sipeed推出超轻量开源项目PicoClaw。它内存占用小于10MB，成本只需10美元硬件，启动快、可移植，功能全，还介绍了入手方式和技术路线。