搜索：多尺度Transformer

「多尺度Transformer」共找到 4261 篇相关文章

华人学生立大功！新王Mamba-3直击Transformer死穴，推理效率碾压7倍

新一代开源架构Mamba-3发布，由CMU普林斯顿原班人马打造，15亿参数性能比Transformer高4%，长序列任务端到端延迟仅为其七分之一。它采用新设计哲学，推理优先，有三大核心技术，还能与自注意力层混合提升检索能力。

研究人员进行超20万次模拟实验，耗资5000美元，评估大模型在多轮对话中的表现。结果显示，大模型在多轮对话中性能明显低于单轮对话，平均下降39%，还出现“对话迷失”现象。

本文介绍阿里团队在能源领域构建多智能体框架的实践。因单智能体处理复杂任务有“注意力发散”问题，团队研发综合能源智能体平台，阐述框架搭建、各组件功能及设计考量，还分享思考与可优化点。

用Claude Code等写代码常需排队，Vibe Kanban思路直接，把AI coding agent当“同事”，用看板分配任务、并行跑多agent、可视化review改动。它亮点多，有多种使用场景，5分钟可上手。

上海AI Lab的OpenDataLab团队通过大规模实验剖析RLVR在多领域推理机制。构建多领域评估框架与定制奖励策略，基于Qwen2.5 - 7B系列模型联合训练，有多项关键发现，为构建AI推理模型提供参考。

Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。

ICML 2025 Spotlight 论文提出「自动化失败归因」新方向，应对多智能体系统失败难诊断问题。构建「Who&When」基准数据集，设计三种初步方法并评估，虽现有方法表现有限，但此研究意义重大，有望助力打造更可靠系统。

实时全球情报仪表盘是AI驱动的态势感知界面，集成新闻聚合、地缘政治监测与基础设施追踪。数据源多为免费公开API，低延迟更新。有多种功能，技术栈丰富，聚合多领域65+外部数据源。

Everywhere是两个学生辍学开发的开源交互式AI助手，能感知屏幕内容，在任意界面使用。它功能多、细节优，支持多场景，集成多种AI模型，使用简单，还提供个性化体验。

谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。