算法论文8
浙大Translution融合自注意力与卷积
新智元
AI 摘要
浙大等校学者提出Translution,融合自注意力与卷积机制。它解决二者割裂问题,轻量化版α - Translution平衡性能与可训练性,实验显示其性能超Self - attention,提升源于相对建模机制。
阅读原文 · 新智元
比Transformer更强的架构来了?浙大新作Translution,一统卷积和自注意力
随着大模型发展遇瓶颈,浙大等校学者提出神经网络基础操作Translution,实现自注意力与卷积的融合统一,构建更普适神经计算机制。它性能超Self - attention,为新一代神经网络发展开辟新方向。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
张朝阳对话刘若微:揭秘智能材料底层逻辑
8月12日,张朝阳与刘若微教授围绕“复杂的世界:从沙子到智能”主题,从沙堆、泡沫切入软物质与非平衡统计物理前沿,探讨阻塞相变、低功耗类脑智能材料研究路径及未来潜力,还分享科研感悟。
量子位
算法论文8
GCEA - YOLO:油田抽烟检测精度提升20.8%
油田抽烟事故损失大,传统检测方法有局限,深度学习模型也面临难题。作者基于YOLOv11n构建GCEA - YOLO网络,含ADown、CSP - EDLAN、GFPN、EfficientHead四个模块,检测精度显著提升,还验证了泛化与稳定性,并给出复现代码。
机器学习AI算法工程
推荐文章8
系统了解AI,这四件事得搞清楚
文章围绕系统了解AI需搞清楚的四件事展开,介绍了AI理论基础层的机器学习和深度学习,感知交互层的计算机视觉等,应用实践层的机器人学等,还提及伦理社会层的AI伦理和社会影响研究。
AIGC开放社区
算法论文8
RDA - YOLO:极端天气下绝缘子缺陷检测利器
文章指出传统绝缘子检测方法面临人工巡检效率低、小目标检测难等挑战,现有YOLO系列算法也有局限。为此提出RDA - YOLO网络,在YOLOv8基础上有三项创新,实验显示其精度、速度和极端天气鲁棒性表现出色。
机器学习AI算法工程