算法论文8

Meta新论文揭秘大模型顿悟原理

AI工程化2025-10-05

AI 摘要

Meta超级智能实验室新论文揭示大模型顿悟数学机制。提出Li2框架分三阶段，推导泛化缩放定律，区分两种记忆形式，还解释了一些反直觉现象及技术有效性，让大模型顿悟从玄学变科学。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Meta推编码框架，低价换开发者数据

Meta推出Muse Code编码框架及Muse Spark 1.2模型，有不同输入输出、功能和性能表现。提供不同档位价格，贡献者档位低价但数据用于训练。测试显示其单任务成本低，Meta此举或为获取编码训练数据。

IPO前夕，Anthropic最新年化营收达650亿美元，8个月翻超7倍，反超OpenAI。双方在资本市场竞争激烈，A社在起跑时间、财务、商业模式上占优，但OpenAI用户规模和产品生态占优，目前A社牌面更好。

OpenAI发布内部版模型Astra的十项成果，引发数学界震动。菲尔兹奖得主Timothy Gowers分析其成果，指出AI优势在‘输得起’，还探讨找例方法、模型短板，给出训练建议与衡量跨越门槛的标准。

随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。