算法论文7
1100多个模型权重收敛至通用子空间
机器之心
AI 摘要
约翰斯・霍普金斯大学研究:1100多个神经网络权重收敛到共享低维子空间,架构比数据影响大。能解释现象、开辟应用,但结论待严格验证,成因有谱偏好等多种推论。
阅读原文 · 机器之心
1100多个模型殊途同归,指向一个「通用子空间」,柏拉图又赢一回?
约翰斯・霍普金斯大学研究发现,1100多个不同神经网络,即便训练条件不同,最终权重会收敛到共享低维子空间,表明架构比数据影响大。此发现能解释诸多现象,还有多种应用可能,但也有局限性。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
张朝阳对话刘若微:揭秘智能材料底层逻辑
8月12日,张朝阳与刘若微教授围绕“复杂的世界:从沙子到智能”主题,从沙堆、泡沫切入软物质与非平衡统计物理前沿,探讨阻塞相变、低功耗类脑智能材料研究路径及未来潜力,还分享科研感悟。
量子位
算法论文7
Mobius能否颠覆Transformer架构?
自ChatGPT问世,Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构,有望解决商用等关键问题。
机器之心
算法论文8
华为IJCAI 2026论文:从规模转向设计
IJCAI 2026将召开,AI算力成本高,参数扩张边际收益低,技术创新逻辑转向‘用得更省’。华为四篇被收录论文,用精巧架构和训练策略,在四方向展现系统化工程能力,提供技术转型路径。
AI科技评论
开源动态8
Mind Lab开源Macaron - V1押注持续学习
2026年6月智谱开源GLM - 5.2,心洲科技前沿实验室Mind Lab开源Macaron - V1,基座升级至GLM - 5.2。它押注持续学习与群体智能,成绩优于基座,相关理念和工程路径获验证。
机器之心