「自注意力机制」共找到 1949 篇相关文章
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
击败PI ，清华系具身公司包揽「具身奥林匹克」三项全球第一，刷新世界纪录！
在Benjie's Olympics赛事中，星动纪元凭借自研具身智能模型获三项全球第一，击败具身领域老牌公司PI。该赛事规则严苛，星动纪元在剥橘子、开锁、翻袜子任务中表现出色，此前其在技术研发和场景落地也成果颇丰。
新一代AI教师是什么样？学而思让它从L2「助手」跃迁至L3「老师」
在AI应用落地成关键的当下，教育成AI融合创新前沿。好未来CTO田密提出「AI教师L1 - L5分级」理论，指出当前AI老师达L2水平，L3正演进。学而思学习机的「小思AI一对一」迈向L3，依托硬件和自研大模型，结合优质内容，从可用走向可信。
AGI时代最稳的饭碗是什么？3Blue1Brown创始人：技术会淘汰，但信任不会
科普视频博主 Grant Sanderson 在播客中指出，AI 因缺乏肉身和生理模仿机制，写不出触动人类灵魂的文章，即便证出黎曼猜想，若证明冗长，对人类也无意义。他还探讨了 AI 在数学领域的进展、局限，以及人类教师和科普作者在后 AI 时代的价值。
拥抱大模型：深入剖析ReAct的核心原理、技术架构及其对AI领域的深远影响
文章深入剖析ReAct，它是普林斯顿大学和谷歌团队提出的智能体架构范式，将推理与行动协同，构建TAO闭环。介绍其原理、架构，指出解决传统AI难题，也存在局限，未来可与强化学习等融合。
Anthropic顶级Claude模型被逆向开源，这几个模块借鉴了DeepSeek
22岁开发者逆向开源Anthropic的Claude Mythos Preview模型架构，名为OpenMythos。其核心模块借鉴DeepSeek，采用带混合专家路由机制的循环Transformer，有独特设计和稳定机制，重新框定扩展性争论。
因果发现进入基础模型时代：CDFM 如何从数据中推断因果结构 | GAIR Paper 120
因果发现正从“手工挑选算法”走向“大模型统一零样本推断”范式。广东工业大学等团队提出CDFM，能统一处理多种情况，解决传统方法痛点，在多方面展现良好性能，是因果发现基础模型时代的重要起步。
行为记忆+认知记忆，中科大MemWeaver重构LLM个性化记忆
论文MemWeaver被The Web Conference 2026接收，它聚焦用户从隐式到显式文本交互时个性化生成的升级问题。提出将用户历史升级为层次化记忆，构建行为与认知双记忆模块，主实验表现优，消融实验验证其结构设计关键。
治好多模态近视和走神！上海大学去偏干预显著提升模型性能
多模态大模型存在“近视”和“走神”问题，总是过度关注图像底部而忽略核心内容。上海大学与南开大学研究团队用两条数学公式去偏干预，无需增加计算成本，却能显著提升主流模型视觉理解能力。
让思考更准更长！强化学习新算法FIPO来了
阿里通义实验室Qwen Pilot团队发布系列博客剖析大模型强化学习机制与局限，推出新算法FIPO。该算法引入Future - KL机制，解决‘推理长度停滞’问题，在多项测试表现优异，还介绍招聘信息。