「混合注意力机制」共找到 1161 篇相关文章
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所与腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所、腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。
上海AI Lab发布混合扩散语言模型SDAR：首个突破6600 tgs的开源扩散语言模型
上海人工智能实验室提出全新范式SDAR，通过‘训练 - 推理解耦’融合AR模型高性能与扩散模型并行推理优势。实验证明，SDAR性能与原版AR模型持平或超越，还能加速推理，且已全面开源全系列模型。
ICML 2026 | 大模型为什么算不对加法？南大团队提出等本位和轨迹，揭示LLM算术错误的几何机制
南大团队研究LLM在多操作数加法中的内部表征结构，发现算术状态呈高度结构化几何流形。提出等本位和轨迹与噪声量化模型，解释模型算错加法原因，还设计推理时纠错方法。
AMM｜西工大 董戴玮、索玮、寇家庆、张伟伟：PINN-MG——受多重网格启发的迭代法与物理信息神经网络混合求解框架
西北工业大学团队提出PINN - MG框架，结合迭代法与物理信息神经网络。迭代法消除局部高频振荡误差，PINNs校正全局低频误差，在多方程测试中加速效果显著，还克服不定亥姆霍兹方程求解发散问题。
因果发现大模型迎来「理论破局」： DAG-FM 破解异质机制下的因果图识别与涌现难题 | GAIR Paper 116
浙大、清华与稳准智能联合发布因果发现大模型DAG - FM，解决了现有模型缺乏理论基础、易产生非法环路和显存爆炸问题。它在理论上证明因果图可识别，架构上避免环路，处理数据能力强，还将推进特定领域预训练。
CVPR 2026 Oral｜告别模型合并冲突！南大等提出OrthoReg：极简正交正则化，揭开任务算术的底层机制
南京大学等团队为任务算术建立底层理论框架，提出「任务特征特化」属性，推导出几何约束方法OrthoReg。该方法引入极简正交正则化项，提升模型合并性能，论文被CVPR 2026接收并评为Oral，代码等已开源。
EAAI | 西工大夏明坤，张伟伟等：分层无量纲学习：一种物理和数据混合驱动的无量纲关联参数提取方法
在流体力学研究中，高维数据冗余增加模型分析复杂度。本文提出分层无量纲学习方法（Hi - π），通过物理、压缩、映射三层架构自动提取关键无量纲参数组合，在多个算例中表现良好，为参数降维与知识发现提供新思路。
年度AI论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3重现概率异常
这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞，攻击者用轻量级模型就能恢复大模型隐藏思维链数据。还揭示部分模型训练或借鉴大模型思维链，此漏洞也致企业数据隐私安全问题。
Claude Design开源版本来了!支持超过 71 套最顶级的品牌设计系统，可以直接复刻，构建属于你的顶级网页!
Anthropic的Claude Design闭源，Open Design是其开源替代品。它支持超71套顶级品牌设计系统，可直接复刻构建网页，还支持多种coding agent，有完整提问机制，确保产出符合需求。