「低秩参数修剪」共找到 1600 篇相关文章
更大，还能更快，更准！蚂蚁开源万亿参数语言模型Ling-1T，刷新多项SOTA
10月9日，蚂蚁开源万亿参数语言模型Ling-1T。它延续自研高效MoE架构，在编程、数学推理等多维度测试表现亮眼，还能兼顾精确与效率。此外，它在多场景实用性强，其创新设计提升了能效比与性能。
114B参数、6B激活，Sand.ai刚刚把全球首个千亿MoE视频生成模型开源了
Sand.ai团队开源全球首个千亿MoE视频生成模型MAGI - 2 - preview，总参数114B，单次前向激活约6B，成本低效果好。该模型解决了视频生成Scaling难题，架构、系统设计出色，开源将改变行业规则。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。
Nature重磅！清华团队揭秘大模型新规律：告别参数内卷，智能密度每3.5个月翻一番
清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。
马斯克Grok 4.6重回一梯队！更低价格反超Fable 5，这Cursor是真没白收购
马斯克携Grok 4.6让SpaceXAI重回大模型牌桌。它跑分超GPT - 5.6 Sol和Fable 5 Max，价格更低。此次升级聚焦长程agent任务，还发布了Grok Bot智能体，后续Grok 4.7也将登场。
3B激活参数，干翻GPT-5.4和Opus4.6，商汤绝影把龙虾塞进了车里
商汤绝影发布端侧多模态大模型Sage，32B总参数、3B激活参数，在PinchBench评测超Claude Opus4.6等。自研SCOUT和ERL技术助力，从多维度领先同量级端侧模型，为座舱智能体提供支撑。
代码生成要变天了？被质疑架空后，Yann LeCun携320亿参数开源世界模型“杀回来了”
美国当地时间9月24日，Yann LeCun团队发布320亿参数代码世界模型CWM。它创新训练方式，能模拟代码执行。性能测试表现出色，还开放检查点。Meta AI业务重组，CWM发布或表明未彻底放弃开源。
蚂蚁开源万亿参数思考模型 Ring-1T，综合能力逼近 GPT-5、数学能力对标 IMO 银牌
10月14日凌晨，蚂蚁集团推出万亿参数思考模型Ring-1T并全面开源。它在多任务榜单表现均衡，数学能力达IMO银牌水平，通用能力逼近GPT - 5，还采用自研算法应对行业难题，目前可下载体验。
机器人连续叠衣120分钟！仅用0.9B参数实现五大SOTA｜清华AIR & 上海AI Lab开源
清华大学智能产业研究院与上海人工智能实验室联合发布通用跨本体具身基座模型X-VLA。它是首个实现120min无辅助自主叠衣的全开源模型，仅0.9B参数量就在五大权威仿真基准刷新纪录。
北大 & 作业帮团队提出 Text-to-SQL 新框架 Interactive-T2S，攻克宽表处理与低资源对齐难题
北大与作业帮联合研发的论文提出 Interactive-T2S 框架，将 LLM 塑造成智能代理，通过多轮交互解决传统 Text-to-SQL 方法在宽表处理、低资源对齐等方面的难题，已入选国际顶会 CIKM2025。