「内存节省」共找到 294 篇相关文章

开源动态8

腾讯开源Cube Sandbox:60毫秒冷启动的AI沙盒运行时

Harness设计中沙箱是重点难点,传统方案在安全与性能间妥协。腾讯开源Cube Sandbox,用RustVMM重构虚拟化层,冷启动60毫秒,单实例5MB内存开销,有真内核隔离等优势,开源版本含网络隔离组件。

AI工程化
产品应用7

当AI从云端“下沉”,Arm如何赋能端侧

端侧AI发展近十年,已进入应用快速拓展期,成为推动消费电子革新重要力量,但面临视觉处理、内存平衡和应用迭代等挑战。Arm推出相关平台与技术,如SME2,提升AI性能与能效,还与厂商合作,持续创新赋能端侧。

芯师爷
新闻资讯7

澜起科技:高速互连芯片巨头历史

文章讲述澜起科技发展历程。它从电视机顶盒芯片转型内存接口、高速互连芯片,虽历经政策冲击、做空危机、供应链压力与客户竞争等挑战,但凭借技术实力和研发投入,在行业中站稳脚跟,未来有望受益于AI算力需求升级。

芯师爷
开源动态8

面向 SGLang 的 Profile Analysis SKILL:3 张表定位 Kernel Fuse 和 Overlap 机会

文章介绍了面向SGLang的Profile Analysis SKILL,其工作流统一,输出3张表定位Kernel Fuse和Overlap机会,支持多种分析方式和模型。还给出Qwen/Qwen3.5 - 4B和openai/gpt - oss - 20b的分析结果,并表明该SKILL能节省token、缩短工期,作者厌恶Torch Compile。

GiantPandaLLM
算法论文8

首次披露!DeepSeek V3 发布软硬一体协同训练论文,公开「降成本」秘诀

DeepSeek团队发布论文《洞察DeepSeek - V3:规模的挑战和对AI架构硬件的思考》,从硬件架构和模型设计双重视角,探索其经济高效的大规模训练和推理方法,介绍了设计原则、低精度驱动等多方面内容及降成本秘诀。

AI科技评论
新闻资讯7

256G内存条涨到天价:不是内存条疯了,是算力正在变成新土地

近期,256GB内存条单根突破4万元。这并非普通DDR5,而是服务器专用内存。其价格飙升源于供需错配,大模型训练对大容量内存需求极端。有人认为是泡沫,也有人觉得是结构性变化。

芯师爷
新闻资讯7

大厂程序员:AI正在将我们变成高速流水线工人,受不了了

亚马逊鼓励程序员用AI,结果成变相强迫,人员减半、项目提前,程序员只能让AI写代码,但AI编程正确率低,让工作更繁杂,职业晋升也成问题。亚马逊官方称AI能提效,双方看法不一。

量子位
产品应用7

Claude Skills很重要

作者本想退订Claude,因Anthropic发布Claude Skills改变主意。它是‘能力包’,含SOP、工具和资源,分层加载省上下文窗口。预设Skills可体验,官方开源,模块化设计利于挂载和按需加载,或形成Skills Market。

newtype AI
开源动态8

斩获6.6K star!!再见了U盘、PE盘,一键重装Windows/Linux,几十种系统随便换,真绝了!

介绍GitHub开源重装神器`reinstall`,它能跨系统无门槛重装,支持多系统,自动处理网络驱动,适配性强。安装使用简单,从用户痛点出发,是综合性VPS管理工具。

开源先锋
开源动态7

重磅!中国团队发布SRDA新计算架构,从根源解决AI算力成本问题,DeepSeek“神预言”成真?

国内玉盘AI团队发布《SRDA AI大模型专用计算架构》白皮书,提出全新SRDA计算架构,从硬件源头解决AI算力成本瓶颈。它以数据流为核心,在内存、网络等方面创新,为开发者带来高效、低成本等价值。

InfoQ