「并行循环Transformer」共找到 615 篇相关文章
10个Agent一键组队：并行智能体协作，端到端交付从24h缩减到4h！
过去写代码靠程序员手动输入，即便有Copilot等工具，仍需人主导。并行代理出现后，程序员可调用多个AI并行工作，将端到端交付时间从24h缩减到4h，思维方式也需转变，对工程师能力要求也有变化。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。
八年后，Meta教会了Transformer「显式思考」
10月20日Meta上线新论文《The Free Transformer》，作者François重写Transformer思维方式，造出Free Transformer新架构。它在解码器内加入随机潜在变量，让模型生成内容前先‘思考’，实验显示在多任务上性能显著提升。
Meta打碎Transformer 8年铁律！改写AI最底层规则，模型首次冒出潜意识
Meta推出「自由Transformer」新模型，打破自2017年以来GPT模型核心规则，在解码器引入潜在随机变量Z，增加“潜意识”。仅增约3%计算开销，在多测试中超越大规模模型，或开启后自回归时代。
Flash-Searcher：Web Agent的并行革命
当下Web智能体用顺序执行链解决复杂任务存在执行和信息利用率低的问题。为此提出Flash - Searcher，以DAG并行执行机制为核心，提升执行吞吐与速度，在多基准上表现优，代码已开源。
苹果AI选Mamba：Agent任务比Transformer更好
苹果新研究指出，在长任务、多交互的Agent式任务中，基于SSM架构的Mamba在效率与泛化能力上超Transformer。虽Mamba有局限性，但引入外部工具后性能显著提升。
TransDiff--最简洁的AR Transformer + Diffusion图像生成方法
文章分享图像生成新方法TransDiff，它结合AR Transformer与Diffusion，提出MRAR范式。通过Q&A解答其使用Transformer原因、小Diffusion Deocder效果等问题，还指出它有连续帧生成潜力，将用于视频生成。
Transformers v5 中的分词系统：更简洁、更清晰、更模块化
文章聚焦 Transformers v5 分词系统，介绍分词概念、流程、主流算法，对比 transformers 和 tokenizers 库。着重讲 v5 改进，如架构与词表分离，解决 v4 黑盒问题，还能从零训练专属分词器。
MetaAI解锁Transformer潜意识，仅额外3%计算开销，性能提升最高55%
Meta FAIR研究员François Fleuret提出《The Free Transformer》，对解码器Transformer扩展。它通过引入随机变量，让模型先计划后执行，用约3%计算开销，在编程等任务上性能提升最高达55%。
彻底改写Transformer！「能量驱动架构」横空出世，通用推理时代要来了？
UIUC、斯坦福与哈佛联合提出全新「能量驱动Transformer（EBT）」架构，打破「前馈即推理」旧范式，以能量最小化模拟人类思维，训练更高效、推理更精准，在多方面超越传统Transformer。