算法论文7
Meta优化Scaling Law，省token又提效
机器之心
AI 摘要
Meta论文有新进展，提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数。研究表明，2 - simplicial Transformer在有限token预算下扩展性、参数数量scaling指数等方面优于Transformer。
阅读原文 · 机器之心
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
腾讯600万奖金赛，探索推荐系统大一统
腾讯营销以KDD Cup 2026官方赛道身份出题，聚焦推荐系统统一建模，奖金600万+。全球众多选手参与，学术和工业赛道各有冠军方案，还设创新奖。赛事也推动了鹅厂人才培养体系的拓展。
量子位
产品应用8
Meta推编码框架，低价换开发者数据
Meta推出Muse Code编码框架及Muse Spark 1.2模型，有不同输入输出、功能和性能表现。提供不同档位价格，贡献者档位低价但数据用于训练。测试显示其单任务成本低，Meta此举或为获取编码训练数据。
DeeplearningAI
算法论文8
COLM三篇论文暴击Transformer祖传设计
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
量子位
新闻资讯7
Manus重独立，通用Agent竞争白热化
8月11日，Manus宣布将恢复独立运营，此前它被Meta收购仅七个月。过去七个月其产品更新频繁，年收入大幅增长。但通用Agent竞争激烈，OpenAI等大厂及创业公司纷纷入局，Manus需做深产品，且重新独立后面临增长考验。
Founder Park