「全注意力模型」共找到 8734 篇相关文章
ICCV 2025 | 清华&腾讯混元X发现「视觉头」机制：仅5%注意力头负责多模态视觉理解
本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。
蛰伏一年，周衔团队带来首个具身基础模型，烹饪做实验弹琴，效果炸场
Genesis AI公布首个机器人基础模型GENE - 26.5，能完成烹饪、解魔方等复杂任务。该模型是全栈系统，以仿真加速迭代，用自研手套采集数据，还重写控制栈。公司后续计划发布全身机器人。
引入小目标注意力模块改进YOLO12用于无人机视角下的岸边人员玩水检测
文章介绍用小目标注意力模块改进YOLO12，用于无人机视角下岸边人员玩水检测。先介绍YOLO12特点与结构，再说明小目标注意力模块CBAM优势、流程及代码，接着阐述改进方法、数据集情况，最后给出训练和测试模型的代码与结果。
给GUI Agent装上「世界模型」：阿里通义用混合数据+统一思维链，让模型学会预判屏幕变化
伴随多模态大模型发展，GUI Agent成人机交互新范式，但构建高可用、跨平台的GUI Agent面临诸多挑战。阿里通义实验室开源Mobile - Agent - v3.5框架及GUI - Owl - 1.5模型家族，解决了相关技术壁垒。
全球首个英伟达含量为0的万亿模型，成了海外开发者的抢手货
美团推出LongCat-2.0，是首个在国产算力上实现全链路训推闭环的万亿参数模型。它多项性能强，适配主流编程工具，架构设计原创，还证明了国产算力有支撑大模型迭代的能力，训推成本更低。
大模型也需要自我反思，上海AI Lab合成“错题本”让大模型数学成绩提升13.3%
上海AI Lab提出LEMMA方法，构建“错误 - 反思 - 修正”数据，让大模型从错误中学习。通过教师模型定向制造“学生会犯的错”构造数据，实验显示在Llama3 - 8B上数学解题准确率提升13.3%。
一手评测Seedance 1.0 pro，字节首次登顶视频大模型竞技场的大杀器来了。
作者在火山引擎发布会现场，认为视频生成模型Seedance 1.0 pro最酷。从多镜头组合、运动质量、情绪、运镜、物理动态效果、风格化六个维度测评，该模型各方面表现出色，无明显短板，已开放给企业用户，今日在豆包App全量上线。
模型即智能体，Kimi K2 Thinking多项评估超越顶尖闭源模型，300轮工具调用不疲倦
月之暗面发布Kimi K2 Thinking，它是Kimi迄今最强开源思考模型，基于模型即智能体理念训练，可自主连续工具调用与多轮思考，多项评估超顶尖闭源模型，还实现原生INT4量化，提升生成速度。
国产类脑大模型适配国产沐曦GPU！长序列推理提速超百倍，仅用2%数据匹敌主流模型
中国科学院自动化所李国齐、徐波团队发布类脑脉冲大模型SpikingBrain (瞬悉)-1.0，借鉴大脑信息处理机制，适配国产沐曦GPU，长序列推理提速超百倍，仅用2%数据匹敌主流模型，探索构建国产自主可控类脑大模型生态。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。