多尺度Transformer」共找到 4261 篇相关文章

算法论文8

腾讯混元TurboS技术报告首次全公开:560B参数混合Mamba架构,自适应长短链融合

腾讯公开混元TurboS技术报告,该模型是超大型Hybrid Transformer - Mamba架构MoE模型,融合Mamba与Transformer架构优势,有自适应长短思维链机制,激活参数56B。在评测中表现佳,推理成本低。

AI前线
算法论文8

破解遥感目标的形状与尺度难题,PKINet二代推理提速近4倍!

PKINet - v2是改进的遥感目标检测模型,能处理复杂形状和尺度变化问题。它在PKINet基础上升级,统一条带与方形卷积,部署时折叠为单大核。在数据集上精度和速度提升,可服务领域,但对特殊目标仍有检测问题。

新智元
开源动态8

Labubu换装记!让视频换装变得如此简单!基于扩散Transformer的视频虚拟试衣新突破

今天介绍开源项目MagicTryOn,它是基于大规模视频扩散Transformer的视频虚拟试衣框架,能实现高质量视频换装。采用三项关键技术创新,支持图像、视频试衣及定制化方案,目前仍在积极开发。

GitHubStore
开源动态8

把RoPE扔掉,AI更能看懂长上下文!Transformer作者团队开源大模型预训练新方法

Transformer架构核心作者之一Llion Jones团队开源新技术DroPE,可丢弃位置嵌入扩展上下文,解决RoPE长序列处理缺陷,在模型实验中表现卓越。该团队来自Sakana AI,此前还有相关研究成果。

量子位
7

统治AI十年的Transformer,要被亲爹亲手砸碎?

5月5日旧金山的辩论赛上,Transformer联合发明人Łukasz Kaiser为其作品辩护,三位挑战者指出Transformer五大死穴。Kaiser称除非新架构证明有更好的scaling曲线,否则Transformer仍是主流,还给出具体辩护。

新智元
算法论文7

Transformer与RNN合体,谷歌打下显存门槛,解锁超长上下文

谷歌论文提出 Memory Caching 技术,通过架构机制创新赋予 RNN「可生长的记忆容量」,兼顾 Transformer 与 RNN 优势,能处理更长文本、降低推理资源门槛,实验显示有良好效果。

机器之心
推荐文章8

智能体在「燃烧」Token!Anthropic公开发现的一切

Anthropic发布智能体研究系统构建解释,解决智能体研究困惑。智能体系统优势明显,在特定任务中表现出色,但token消耗大。其架构独特,还介绍了提示词工程、评估方法、面临的工程挑战等内容。

机器之心
推荐文章8

游戏研发中的 AI 转型:网易 Agent 系统与知识工程实践

本文整理自网易游戏高级技术经理林香鑫分享,其团队通过代码知识谱图构建、 agent RAG 召回等技术打造超级助手,在业务场景落地效果好。还介绍知识工程、 Agent 赋能代码编写、AI 审查等实践及未来展望。

AI前线
产品应用7

从聊天窗口到 Agent 控制台:一次 AI 编程协作范式的转移

作者分享了从单 Agent 协作到 Agent 协作的编程范式转变。当前主流 AI 开发为单 Agent 协作,效率低,作者设计了 Mexus 工具,解决 Agent 协作、观测、Review 等问题,重塑人与 AI 协作关系。

阿里云开发者
算法论文7

老牌Transformer杀手在ICLR悄然更新:Mamba-3三大改进趋近设计完全体

Transformer架构仍是AI主流,Mamba作为挑战者影响力大。Mamba-3在ICLR 2026盲审,有梯形离散化、复数化状态空间模型、输入输出状态空间模型三大改进,实证表现佳,适合场景。

机器之心