算法论文7

EBT：Transformer 获新能量，扩展性佳

DeeplearningAI2025-09-25

AI 摘要

弗吉尼亚大学等团队提出 EBT，它与典型 transformer 不同，能检查输出。训练用 RedPajama - Data - v2，测试中泛化强但生成特定文本弱，扩展性好，未来需研究大规模下算力效率。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

三万字讲透大语言模型入门

本文是面向零基础的大语言模型入门长文，无需机器学习背景，只用简单例子讲清大语言模型的核心逻辑，覆盖从原理到产品化的全流程，适合新人系统学习。

本文系统梳理神经网络激活函数的发展历程，从传统普通激活到门控激活，讲解Sigmoid到SwiGLU各类激活的设计逻辑、优缺点与适用场景，帮助入门者理解设计思路

本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。

OpenAI下一代Astra采用「循环深度」推理方法，思考Token减少但性能提升，不过其思考过程难监控。此前业界已对「循环Transformer」有研究，该架构适合数学编程任务，Astra实力获验证，GPT - 6或即将发布。