「循环Transformer」共找到 393 篇相关文章
中国科学SCPMA | 南科大王建春团队：基于改进隐式轴向分解Transformer的三维槽道湍流快速预测
南科大王建春团队改进IFactFormer模型，采用“并行”轴向分解注意力机制，提升在复杂流动问题中的表征能力和稳定性。实验显示，改进模型拟合与长期预测能力强，多数指标精度优于传统方法。
空间智能新高度：港科大谭平团队SAIL-Recon突破万帧级图像大规模3D场景重建Transformer
香港科技大学谭平教授团队与地平线团队发布3D场景表征与大规模重建新方法SAIL - Recon，突破现有模型处理能力瓶颈，可实现万帧级场景表征抽取与定位重建，在多数据集上表现优于现有方法。
AI顶会模式出了问题？ 「不发表，就出局」的恶性循环，正在压垮整个AI学界
随着AI领域发展，NeurIPS等大型学术会议愈发热门，但也带来诸多问题，如发表激增、碳排放过载、研究与会议脱节等。新加坡国立大学团队研究后指出传统模式弊端，并提出社区联合型会议新模式。
ICML2025|宁波东方理工大学刘野，陈云天：DragSolver：用于真实汽车风阻系数估计的多尺度Transformer方法
当汽车高速行驶，空气阻力影响车辆性能。传统风阻系数测算方法耗时久，难以满足实际需求。宁波东方理工大学等机构研究者提出DragSolver模型，能快速准确估计风阻系数，经实验验证效果优，有降本增效等价值。
“当年在OpenAI像在疯人院！”Jev作者完整访谈：全人类陪AI聊天的价值，不如程序员一个for循环
本文整理了前OpenAI核心研究员、Jev模型创始人Diogo Almeida的完整访谈，Diogo批判当前行业all in聊天大模型的路径偏差，推出专为程序决策设计、不做聊天交互的Jev模型，提出全新RLCD技术范式，倡导AI作为软件底层基础设施赋能自动化生产力。
告别Transformer！北大、北邮、华为开源纯卷积DiC：3x3卷积实现SOTA性能，比DiT快5倍！
北大、北邮和华为研究提出纯卷积扩散模型 DiC，抛弃自注意力机制回归 3x3 卷积。它性能超 DiT，推理速度快 5 倍，证明精心设计的卷积网络在生成任务中也能表现卓越。
创智刘鹏飞、Sand.ai曹越，两大AI青年学者团队联手，开源音视频基座模型
开源多模态生成领域获架构级底层突破。上海创智学院与 Sand.ai 联合研发的 daVinci - MagiHuman 正式开源，打破开源界音视频联合同步生成三重局限。它采用单流 Transformer 架构，能力强、推理效率高。
Cloudflare 如何解决了 quiche 中的一个拥塞漏洞
Cloudflare 分享发现 CUBIC 的 Rust 实现问题，该问题影响开源库 quiche。团队构建模拟环境测试，发现 CUBIC 陷入恢复循环，用 Reno 测试排除广泛问题，最终一行代码修复，使测试通过率达 100%。
AI 模特时代到来：字节x清华推出商用级视频换装模型DreamVVT，保真度显著领先SOTA
字节跳动智能创作团队联合清华推出视频换装模型DreamVVT，基于Diffusion Transformer构建，用两阶段设计解决复杂场景痛点，支持多种输入，在保真度和时序稳定性上领先SOTA。
大模型训练的不稳定性有望彻底解决，MIT新研究用谱正则化替代层归一化
MIT团队创造Lipschitz Transformer，用谱正则化替代层归一化，认为或解决训练不稳定根本原因。他们对比多种方法权衡，发现Muon + 奇异值裁剪推动权衡边界，且工作完全开源。