搜索：内存申请延时

「内存申请延时」共找到 285 篇相关文章

Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍

LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。

华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。

介绍开源Web桌面操作系统ArozOS，它由香港开发者tobychui为低功耗设备设计。始于2016年，用Go语言编写，在Github获2.5K star。功能强、资源占用低、易安装，能让旧设备变个人云桌面。

近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。

谷歌发布世界模型原型 Project Genie，用一句话或图就能生成可玩交互的实时虚拟世界，由劈柴哥和哈萨比斯站台。它基于 Genie 3、Nano Banana Pro 和 Gemini 构建，解决了世界模型长期以来的短板，目前处于实验阶段。

谷歌发布世界模型原型产品 Project Genie，只需一句话或图就能一键生成可玩、可交互实时虚拟世界。它借助 Genie 3 等构建，解决了早期世界模型多短板，虽现处实验阶段，但已引发热议，应用潜力大。

近日，OpenAI就财务状况发表声明引发混乱，面临不诚实指控。其CEO称预计到年底年收入达200亿美元，2030年达数千亿，但此前CFO提议政府‘支持’，全球事务官也请求扩大税收抵免。白宫称不会救助，而OpenAI信件却与Altman否认态度冲突。

近日，OpenAI 就财务状况表态引发混乱，面临不诚实指控。首席财务官提议政府‘支持’公司基础设施贷款后又收回表述，白宫 AI 主管称不会救助。Altman 否认寻求担保，但公司信函细节与之冲突。

这是一篇AI周报，涵盖多领域热点。如SK海力士发高额年终奖；月之暗面张予彤称Kimi用少量资源开发领先模型；马斯克透露星舰目标、人形机器人计划等；多家公司有新动态，如阿里推AIGC应用、百川发布医疗大模型等。

Nikkei消息，软银与英特尔宣布成立合资公司Saimemory，开发适用于AI的堆叠式动态随机存取存储器原型，目标两年内降低50%功耗，实现与高带宽内存相当性能。双方注资7000万美元，各有布局目的。