「整流流Transformer」共找到 393 篇相关文章
CuteDSL-2: 基本操作
文章为Cute - DSL第二篇，整理官方notebook介绍基本操作。涵盖数据类型、张量、结构体等基本操作，还介绍了控制流（For、If - Else、While循环等）及TensorSSA的相关操作，如LD/ST、运算、切片等。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
训练大模型玩《反恐精英》：自带外挂一枪爆头，堪比职业玩家
动视暴雪、斯坦福大学和英伟达等研究人员基于职业玩家游戏数据和Transformer架构，开发游戏大模型MLMOVE。在《反恐精英：全球攻势》测试中，它表现出色，性能超现有机器人，还具提前预判移动等创新。
比自回归更灵活、比离散扩散更通用，首个纯Discrete Flow Matching多模态巨兽降临
近年来多模态大模型多采用自回归架构，推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI，基于全新非掩码离散流匹配架构，能并行去噪、动态修正，为多模态模型开辟新路径。
北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署！
北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。
英伟达开源全新大模型：黄仁勋不想只「卖铲子」
2025年底英伟达宣布开源全新模型家族Nemotron 3，含Nano、Super和Ultra。它融合Mamba、Transformer和MoE技术，有诸多创新。这不仅是产品更新，更是战略突袭，标志着英伟达想构建AI闭环开放生态。
RF-DETR-首个突破60 AP的实时检测器（附实战教程）
RF-DETR在COCO数据集上，实时检测精度首破60 mAP，兼顾实时性与高精度。它通过NAS找到Transformer实时运行的‘最优解’，迭代快，适用于多场景，还给出完整实战教程。
大模型能“原地”改参数了！字节Seed&北大新论文：测试时推理无需加层重训练
字节Seed和北大研究团队提出In - Place TTT方案，让大模型能“原地改参数”。它复用Transformer的MLP模块，解决现有TTT架构不兼容、计算效率低和优化目标不匹配问题，实验证明可提升模型长文本任务表现。
JCP | 中科院力学所孙振旭研究员团队：关于物理信息神经网络的预处理：如何在流体力学中更好地利用数据
物理信息神经网络（PINNs）为求解微分方程正反问题提供灵活框架，但数据预处理领域待探索。本文提出数据预处理方法，通过对数据和方程归一化，在四个湍流案例中提升PINNs流场重建预测准确度，不增计算成本。
DeepSeek出品，必是精品！DeepSeek-OCR 2发布：让LLM像人一样读懂复杂文档，效果超Gemini 3 Pro
DeepSeek推出DeepSeek-OCR 2，提出“视觉因果流”，以全新视觉编码器赋予模型因果推理能力。它在文档解析基准表现超Gemini 3 Pro，代码和模型权重已开源，为2D推理和原生多模态探索铺路。