「低内存」共找到 1211 篇相关文章
后OpenClaw时代!国产Agent模型凭「高配低价」叫板Opus 4.6
昆仑万维旗下天工AI发布SkyClaw - v1.0智能体模型及轻量化版SkyClaw - v1.0 - lite。该模型在底层能力提升,适配主流框架,跑分和实际应用表现出色,还具有低门槛、高性价比优势,限时免费体验。
小白必读:到底什么是FP32、FP16、INT8?
文章介绍FP32、FP16、INT8等数字存储格式类型。指出它们是评估算力前提,不同格式在精度、范围、内存占用和计算速度上有差异,还提及多精度与混合精度计算,以及不同硬件对格式的支持情况。
GPT-5刷屏吊胃口之际,英伟达发出暴论:小型语言模型才是未来
英伟达新论文指出,未来属于小型语言模型(SLM),挑战了智能体需用大型语言模型(LLM)的假设。SLM参数量低于100亿,有低延迟、低成本等优势,还给出从LLM到SLM迁移路线图。
万字长文!大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开,先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求,再阐述模型并行、注意力机制优化、模型优化和模型服务等技术,如Pipeline并行、MQA、量化、动态批处理等。
SK 海力士,市值突破4000亿美元
1月27日,SK海力士股价创新高,市值达4031亿美元,三年涨10倍。因AI基建投资扩张,内存芯片供应紧缺。传其为微软供芯,韩媒称它和三星提高LPDDR内存价,或影响iPhone 18价,还将发高额奖金。
内存涨价,千元机的天塌了
去年下半年起存储芯片涨价,因AI基础设施需求爆发,三大存储芯片厂产能被榨干。消费级产品供应受挤压,中低端手机成最大受害者,各厂商搁置低价产品线,中低端市场持续萎缩。
AI Agent 的工程化被低估了
文章指出 AI 发展中工程化作用被低估,将其分为产品工程和技术工程拆解构建 AI Agent 体系。产品工程涵盖需求建模、UI/UX 设计等模块;技术工程涉及架构模块化、流量控制等方面,还提及 Spring AI Alibaba 等工具。
内存涨势超黄金,带飞1400亿存储巨头
9月起存储芯片价格疯涨,国内“存储一哥”兆易创新第三季度净利润暴增61%,市值超1400亿。其创始人朱一明布局20年,使公司完成“三级跳”。不过,行业有周期性,兆易创新需应对挑战。
内存涨价赛过黄金,这些存储公司业绩、股价两开花
近期存储价格年内持续飙涨,幅度超黄金。DDR4现货价较年初暴涨200%,部分经销商溢价出售。存储产品涨价源于AI应用扩张,供不应求热潮蔓延至封测端。多家存储公司业绩和股价两开花。
低Token高精度!字节复旦推出自适应推理框架CAR
字节与复旦大学研究人员提出自适应推理框架CAR,能根据模型困惑度动态选短答或长推,在多基准测试中平衡了准确性与效率,打破长文本推理必然性能更好的认知。