「超级权重」共找到 507 篇相关文章
北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署！
北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。
OpenAI发布MRC超算协议，重塑10万GPU集群通信，AMD等合作推进
OpenAI联合AMD等发布MRC超算协议，它基于RoCE标准，打破传统网络局限，解决超大规模计算集群难题，降低成本与能耗。MRC有多平面网络等特性，已在多超级计算机部署，规范也已公开。
Meta正炼化老板：24小时不间断工作，扎克伯格真成机器人了
《金融时报》爆料，扎克伯格正将自己炼成“代理CEO”扎克bot，由其影像和语音数据训练，本人也参与其中。超级智能实验室攻克相关技术难题，Meta还开发“CEO Agent”，但项目上线或面临问题。
Z-Image标准版开源：更具可塑性的图像生成全能基座
Z-Image标准版开源，它是为开发者准备的强大画板，解决了生成模型同质化问题。其保留完整权重，在微调、风格化上潜力大，采用创新架构，训练定位SFT阶段，有完整CFG支持，还提供完善工具链。
刚刚，Meta挖走OpenAI清华校友宋飏，任超级智能实验室研究负责人
本周四消息，原OpenAI战略探索团队负责人宋飏加入Meta，任新成立的Meta超级智能实验室研究负责人。今年6月起Meta开启AI人才争夺，已挖来至少11位顶尖人员，宋飏加入为其AI部门添活力。
华为诺亚发布ScaleNet：模型放大通用新范式
华为诺亚方舟实验室等团队提出 ScaleNet 方法，创新性地用少量额外参数量将模型深度扩展一倍。结合层级权重共享和轻量级适配器技术，在视觉和语言任务上验证了有效性，提升了模型性能。
Meta扩张继续！挖走OpenAI 2名多模态AI研发人员，收购语音初创公司PlayAI
据报道，Meta 首席执行官扎克伯格从 OpenAI 挖走 2 名多模态 AI 研发人员，还完成对语音初创公司 PlayAI 的收购。Meta 近期在 AI 人才争夺上攻势猛，想补足短板，其超级智能团队未来表现值得关注。
亚历山大王回应一切：LeCun、Manus，“我的父母都是中国人”
亚历山大王加入Meta近一年后首次公开回应争议。他谈了Muse Spark技术逻辑、Meta超级智能实验室架构等，还分享八卦，如与奥特曼决裂代价、小扎抢人真相，认为AI终局未开始，科技行业将分层。
一个大脑搞定所有模态，百度ERNIE 5.0技术报告公布
模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。
7,700+ star 微软 SkillOpt 可以训练的Skill
微软研究院开源了SkillOpt（7700+ star），把Skill文档当成‘可训练的权重’来优化。它有独特的6阶段流水线、核心验证门控、Protected Regions机制，还有SkillOpt - Sleep预览功能，让Skill文档可系统化训练。