「内存市场」共找到 859 篇相关文章

开源动态8

2G 内存跑 Gemma 3n 完整版!全球首个 10B 内模型杀疯 LMArena:1300 分碾压记录

当地时间6月26日,谷歌正式发布Gemma 3n完整版,可在本地硬件运行。它是开源大模型,具多模态能力,最低2GB内存设备就能跑,E4B模型LMArena测评表现佳,还有MatFormer架构等多项创新。

AI前线
新闻资讯7

GPT-5最大市场在印度?Altman最新访谈:可以聊婚姻家庭,但回答不了GPT-5为何不及预期

2025年8月8日OpenAI发布GPT - 5引热议。个人消费者多有不满,反馈体验差、性能不强;企业级市场却很欢迎,多家公司已采用。Sam Altman在访谈谈其特性,还聊了职业、家庭、AI发展等话题。

InfoQ
算法论文8

32k微调处理百万Token:21倍的推理加速,10倍的峰值显存节省,实现恒定内存消耗

现有大模型处理超长文档易内存爆炸、计算崩溃。阿里巴巴未来生活实验室推出CoMeT架构,有双轨并行记忆系统,能恒定内存、线性时间处理文本,在基准测试超主流方法,实现21倍推理加速和10倍显存节省。

量子位
产品应用8

手机跑推理模型:Liquid AI发布仅需900MB内存的LFM2.5-1.2B-Thinking

Liquid AI发布LFM2.5 - 1.2B - Thinking推理模型,仅需900MB内存就能在手机运行。它专为简洁推理训练,性能提升明显,多数性能基准超Qwen3 - 1.7B,在多平台表现佳,还支持主流推理框架。

AI工程化
开源动态7

24B模型编程超DeepSeek全家桶,32G内存苹果电脑就能跑,专门针对真实GitHub Issue训练

Mistral发布最新开源编程模型Devstral,参数24B,能在单卡RTX4090甚至32G内存Mac上运行。它专为编程智能体推出,针对真实GitHub Issue训练,在SWE - Bench Verified测试中表现出色,还可与All Hands AI框架配合。

量子位
新闻资讯7

黄仁勋放话:中国AI市场3年内达500亿美元!AI救了旧金山,整个世界急于与AI互动

黄仁勋最新判断,未来两到三年中国AI市场可达约500亿美元,错过是巨大损失。他还提到AI让旧金山复苏,虽会使部分人失业,但也创造新岗位。此外,英伟达财报值得期待,老黄获十年来首次加薪。

量子位
新闻资讯7

OpenAI 囤 DRAM 晶圆,内存价格炸了!32GB DDR5 一月狂涨 156%,厂商倒买、交货延期,商业遏制引市场崩盘?

文章指出OpenAI两笔巨额DRAM采购致全行业恐慌囤货,内存价格疯涨,32GB DDR5一月涨156%。原因是交易保密、规模大,且市场无安全库存。OpenAI买原始晶圆囤货,或为遏制对手。

AI前线
推荐文章7

关于现代GPU体系结构内存一致性(Memory Consistency)模型的一些猜想(二)——同步性能

文章聚焦GPU应用层面,通过实验对比不同同步代码实现的性能。在H20 GPU上测试,发现scope越小同步性能越好,内存屏障开销随scope增大而增加,还介绍非PTX及官方推荐实现方式并给出性能对比。

GiantPandaLLM
新闻资讯9

清华初创&UIUC学者用7B模型在预测市场上自我蒸馏,跑赢GPT-5.6和Opus 5

UIUC学者联合清华初创团队Astraculum,围绕LLM部署阶段持续学习问题展开研究,提出Social World Model框架,基于预测市场数据测试,经自蒸馏的7B模型击败了GPT-5.6等多款前沿大模型,还搭建了专用MLOps引擎TrajOps。

机器之心
产品应用8

0.3B参数,600MB内存!腾讯混元实现产业级2Bit量化,端侧模型小如手机App

腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit,参数量仅0.3B,内存占用600MB。它基于产业级2Bit端侧量化方案,生成速度提升,还通过多种方法提升能力,未来将探索新技术缩小与全精度模型差距。

量子位