「深度注意力」共找到 930 篇相关文章
BrowseComp等评测集第一，秘塔推出「深度研究」，已开启免费公开访问
世界变化快，AI领域新概念不断。秘塔在上线“浅度研究”五个月后，将其升级为“深度研究”。该模块最初由OpenAI推出，秘塔版可免费公开访问，准确率优，还让研究过程可见。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。
深度拆解，硬核解构，揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统，介绍其核心组件和高级特性，包括推理引擎流程、调度机制、高级功能等，还提及系统扩展、分布式部署、性能测量等内容，助力读者理解推理引擎工作原理。
一个极度实用的深度思考Prompt，帮你挖出最本质的答案。
作者分享推特上一个让大模型深度思考的Prompt，调研后引入‘钢人论证’概念，指出其能避免AI谄媚。作者还写双向钢人Prompt，介绍其作用，并以公司司庆日选择为例展示效果。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。
超越纯视觉模型！不改VLM标准架构，实现像素级深度预测
Meta开源DepthLM，首证视觉语言模型不改架构就能媲美纯视觉模型的3D理解能力。通过视觉提示等创新策略，它精准完成像素级深度估计等任务，为多领域带来前景。
汪军对话 Rich Sutton：大模型在一定程度上分散了我们对智能理解的注意力
在RL China 2025开幕式上，汪军与图灵奖得主Richard Sutton对话。Richard认为大模型缺乏目标和奖励，分散对智能理解的注意力。他强调RL核心是从经验学习，智能原则含梯度下降等，建议将目标解读为“奖励”。
OpenAI Astra被曝引入「循环深度」能力飙升！安全专家坐不住了
OpenAI 最强新模型 Astra 或即将发布，它是首个达「关键级」网络安全能力门槛的模型，在测试中表现优异。《The Information》爆料其用「循环深度」技术，能力提升但引发安全专家担忧，该技术可使模型内部计算增多，思维链监控或失效。
图灵奖得主Sutton再突破：强化学习在控制问题上媲美深度强化学习？
图灵奖得主Richard S. Sutton认为未来AI发展需靠强化学习。他将2024年的SwiftTD算法拓展到控制领域，提出Swift - Sarsa算法，还设计操作性条件反射基准测试。实验显示，结合预处理方法，其性能或媲美深度强化学习。
√N并行+84倍计算加速！英伟达港大全新图像注意力：空间结构都保留
英伟达、港大等研究人员提出新型视觉注意力机制GSPN，通过线性扫描和稳定性 - 上下文条件处理图像空间结构，降低计算复杂度至√N量级，在多视觉任务达先进水平，生成16K图像加速超84倍。