「全注意力模型」共找到 8888 篇相关文章
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
阿里的未来，是通往超级人工智能
云栖大会上，阿里巴巴 CEO 吴泳铭演讲传达阿里对 AI 发展判断与战略规划。他认为 AGI 非终点，ASI 是目标，并提出实现三阶段。还指出阿里抓住大模型和 AI Cloud 支点，要把通义千问打造成 AI 时代 Android 系统。
AAAI 2026杰出论文奖 | ReconVLA：具身智能研究首次获得AI顶级会议最佳论文奖
具身智能常被视为‘系统工程驱动’研究方向，ReconVLA获AAAI杰出论文奖，是具身智能方向首次获AI顶级会议最佳论文。它解决VLA模型关键瓶颈，通过重建式隐式视觉定位机制，实验效果显著。
100亿美元！AI时代最闷声发财的两家公司，要合并了
《华尔街日报》报道，支付公司Stripe正与AI初创公司OpenRouter谈判收购事宜，价格达100亿美元。OpenRouter是全球规模最大的AI模型聚合平台，Stripe为科技公司提供底层金融服务。此次收购将扩展Stripe业务至AI生态。
全球首个完全AI编写的训练框架来了，速度反超英伟达：面壁要用 AI 把国产算力软件重写一遍
面壁智能发布全球首个全由AI编写的训练框架ForgeTrain，在华为昇腾系列上验证，速度超英伟达Megatron 10%。其构建分三阶段，目标是为不同需求“现场锻造”软件，还为国产算力软件生态赶超提供新思路。
单GPU搞定高清长视频生成，效率×10！引入Mamba机制突破DiT瓶颈 | 普林斯顿&Meta
普林斯顿大学和Meta联合推出新框架LinGen，以MATE线性复杂度块取代传统自注意力，使单张GPU能在分钟级生成高质量视频。它在视频质量上优于DiT，减少FLOPs和延迟，与先进模型相当。
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
阿里妈妈发布MUSE：用多模态搞定十万级超长行为序列，并开源Taobao-MM数据集
阿里妈妈与武汉大学团队发布 MUSE 框架，用于终身用户兴趣建模，能处理 10 万级超长行为序列。还开源 Taobao - MM 数据集。MUSE 可插拔，已在阿里妈妈展示广告精排模型全量上线，提升 CTR 等指标。
ICCV 2025｜训练太复杂？对图片语义、布局要求太高？图像morphing终于一步到位
图像处理中‘图像morphing’常见又有创意，但以往技术有训练复杂等问题。南洋理工大学等团队提出FreeMorph方法，无需训练实现图像变形，通过改进注意力机制解决特征丢失和过渡不连贯问题，实验效果佳。
对话景鲲：AI 产品的 All in One，是上下文的 All in One
Genspark 创始人景鲲在 AGI 舞台分享发展路径，其产品从 AI 搜索转型，现推出全功能 AI 办公套件。景鲲判断，未来大模型竞争激烈会商品化，AI 公司壁垒在于捕获用户工作上下文，实现「All in One」AI 工作空间。