「混合注意力」共找到 412 篇相关文章
Claude 4发布！AI编程新基准、连续编码7小时，混合模型、上下文能力大突破
今天凌晨Anthropic开发者大会发布Claude 4，含Claude Opus 4和Claude Sonnet 4。前者是顶尖编码模型，后者是Sonnet 3.7重大升级。还发布系列产品，定价不变，已上线Amazon Bedrock。
港大联合字节跳动提出JoVA: 一种基于联合自注意力的视频-音频联合生成模型
香港大学联合字节跳动提出视频 - 音频联合生成框架 JoVA，支持音视频 Token 跨模态交互，引入嘴部区域特定损失解决口型同步问题。实验显示，它用约 190 万条数据就达先进水平。
刚刚，英伟达新模型上线！4B推理狂飙53倍，全新注意力架构超越Mamba 2
Jet - Nemotron是英伟达推出的小模型系列（2B/4B），由全华人团队打造。其提出PostNAS与JetBlock，实现架构优化。相比Qwen3等模型，它在多维度准确率更高，H100 GPU上推理吞吐量最高提升53倍。
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
上海AI Lab发布混合扩散语言模型SDAR：首个突破6600 tgs的开源扩散语言模型
上海人工智能实验室提出全新范式SDAR，通过‘训练 - 推理解耦’融合AR模型高性能与扩散模型并行推理优势。实验证明，SDAR性能与原版AR模型持平或超越，还能加速推理，且已全面开源全系列模型。
AMM｜西工大 董戴玮、索玮、寇家庆、张伟伟：PINN-MG——受多重网格启发的迭代法与物理信息神经网络混合求解框架
西北工业大学团队提出PINN - MG框架，结合迭代法与物理信息神经网络。迭代法消除局部高频振荡误差，PINNs校正全局低频误差，在多方程测试中加速效果显著，还克服不定亥姆霍兹方程求解发散问题。
EAAI | 西工大夏明坤，张伟伟等：分层无量纲学习：一种物理和数据混合驱动的无量纲关联参数提取方法
在流体力学研究中，高维数据冗余增加模型分析复杂度。本文提出分层无量纲学习方法（Hi - π），通过物理、压缩、映射三层架构自动提取关键无量纲参数组合，在多个算例中表现良好，为参数降维与知识发现提供新思路。
8720个AI岗位真相：LLM和Agent吃掉58%的岗位
AIDevBoard团队基于9906条招聘数据，分析8720个AI岗位。LLM和Agent需求占比58%，头部实验室主导高薪。混合办公薪资最高，不同城市、资历薪资有差异，能助了解AI就业状况。
Gemini AI /Nano Banana Pro图像无损去水印工具
这是基于Javascript的纯浏览器端Gemini AI图像无损去水印工具，用反向Alpha混合算法，有纯浏览器端处理、隐私保护等特性，介绍使用方法、算法原理等。
物理-数据双驱动的大迎角非定常气动力建模 | 航空学报CJA
现代飞行器大迎角机动时，气动力复杂，现有建模方法面临两难。论文提出DEM - LSTM混合框架，结合专家经验与数据驱动，解决小样本、强非线性挑战，经算例验证性能优势明显。