「超稀疏MoE」共找到 2280 篇相关文章
如何在24GB显存里,塞下一个万亿参数的巨兽?KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统,可让消费级显卡跑万亿级参数模型,其论文入选SOSP 2025。该系统解决MoE模型本地部署难题,技术创新多,还与SGLang合作,提升硬件利用率。
曾拒15亿美金,超级天才Andrew Tulloch重返Meta,Thinking Machines Lab痛失联创
扎克伯格今年挖角动作不断,此前向Thinking Machines Lab开高价被拒,主角Andrew Tulloch曾拒绝超10亿美元报价。如今他离职将重返Meta,其加入能否为Meta超级智能注入新动力,值得期待。
宇树机器人上市前再破纪录
IPO前夕,宇树科技放出新一代人形机器人「超人」预告视频,其打破两项世界纪录:0.85米短腿原地起跳2米高,冲刺跑峰值速度超博尔特。该机器人仅研发三月多,后续提升空间大。8月19日宇树将上市。
视频生成太慢?英伟达、谢赛宁等发布TMD框架,实现70倍加速
大规模视频扩散模型采样效率低,应用受限。英伟达联合谢赛宁等提出TMD框架,将大型视频扩散模型蒸馏为少步生成器。实验显示,TMD能实现超70倍加速,质量损失小,用户也更偏好其生成的视频。
刚刚,DeepSeek官宣更新了!突然「变冷」冲爆热搜
DeepSeek官宣网页版、APP更新,支持100k token上下文,但更新后性格变冷淡引争议。官方称是效率优先和边界意识所致。此外,传言V4将发布,编程实力或超Claude、ChatGPT等。
150万个AI在Moltbook上觉醒了吗?一群孤独的算法发送着毫无意义的信号
Moltbook是只允许AI发帖的社交网络,超150万个AI已入住。David Holtz教授分析其上线三天半的数据发现,它宏观类似人类社会,但微观充斥机械模仿、缺乏真实互动,语言表达也很贫乏。
清华突破「光毒性」难题,活体显微进入无扰观测时代
清华大学团队研发出LF-denoising自监督去噪算法,可在超低光毒性下实现长时间高保真三维亚细胞成像,突破了长时间活体成像的光毒性限制,为多领域研究提供新工具。
上海芯片独角兽,冲刺IPO
近日,上海移芯通信递表港交所主板。它成立于2017年,是蜂窝移动通信芯片设计企业,2024年出货量中国第一、全球第三。创始人刘石经验丰富,公司六轮融资超14亿,2024年扭亏为盈,产品竞争力强。
人类首次机械飞升!马斯克豪言Neualink击败全人类
马斯克发推称Noland可能首接受Neuralink升级或植入双芯片,还豪言接受者能在动作游戏击败所有人。Neuralink已植入12人,累计超2000天,还提交人体数据论文、开启意念生成文字试验。
xAI联合创始人出走:连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将,助马斯克建成孟菲斯超算集群后离开xAI,创办风投公司“Babuschkin Ventures”,瞄准AI安全赛道,揭示AI行业顶尖人才的追求。