「内存股」共找到 287 篇相关文章
Transformer终结者!谷歌DeepMind全新MoR架构问世,新一代魔王来了
KAIST、谷歌DeepMind等机构发布的MoR架构,推理速度翻倍、内存减半,重塑LLM性能边界,碾压传统Transformer。它融合参数共享与按需计算,有路由和KV缓存策略,实验显示其性能优越、可扩展性好。
1000亿,武汉国资赚翻了
华工科技孵化自华中科技大学,凭借光模块业务乘AI东风,市值超千亿。武汉国资数年前收购其股份,浮盈约150亿。长飞光纤也受益于AI算力爆发,成新晋十倍大牛股。武汉光谷产业迎来爆发。
OOM排查之路:一次曲折的线上故障复盘
文章复盘了整合Paimon数据湖与RocksDB的系统三次OOM故障排查过程,分享曲折经历,介绍MAT、NMT等排查工具,还给出内存问题排查思路,望为相似技术栈者提供启发。
马斯克被曝合并SpaceX和xAI!估值1.5万亿美元,左手火箭右手AI
路透社消息,马斯克正推进SpaceX和xAI换股合并,正值SpaceX计划今年晚些时候上市前夕。交易落地后,火箭发射能力与Grok模型打通。SpaceX估值8000亿美元,xAI达2300亿美元,合并后将成超级联合体。
推理成本骤降75%!gpt-oss用新数据类型实现4倍推理速度,80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型,使推理成本降75%,内存占用为BF16模型四分之一,生成token速度提4倍,还能降低硬件资源需求。不过MXFP4也有缺陷,英伟达推出NVFP4提升质量。
这,太狠了:35k Star Lightpanda
本文介绍GitHub上35k Star的开源项目Lightpanda,它是专为Agent自动化打造的轻量无头浏览器,从零开发砍掉冗余桌面外壳,大幅降内存提速度,明确说明了适用场景与使用边界。
比爆火的OpenClaw更王炸?这台百元神机,已经能让AI长出手脚帮你打工了
英伟达DGX Spark因内存供应紧张涨价,4万的成本让预算敏感者望而却步。阿里云无影个人云超算服务性价比高,按量付费百元左右。其AgentBay让AI获“手脚”,还具OpenClaw没有的能力。
预计募资80亿,摩尔线程发行价定了
11月20日摩尔线程公告,协商确定发行价为114.28元/股,预计募资79.996亿。该公司由有GPU行业近二十年经验的张建中创立,构建智算产品线,其夸娥万卡智算方案特性突出。
刚开源仅3天狂揽4.9K star,轻量超高效版OpenClaw,10美元硬件就能跑!
OpenClaw火遍全网但硬件要求高、成本不菲。新开源的PicoClaw是其轻量替代方案,由Sipeed开发,内存占用少、启动快、成本低、便携性强,安装简单,功能多样,刚开源就成热议新星。
DeepSeek发布最新论文,5大杀手锏让大模型训练、推理暴涨
全球著名开源大模型平台DeepSeek在huggingface发布超强开源模型V3的论文,从硬件架构和模型设计双视角探讨高效训练和推理,提出DeepSeek - MoE、多头潜在注意力等创新技术,解决内存、计算效率等难题。