搜索：线性注意力模块

「线性注意力模块」共找到 501 篇相关文章

李飞飞押注的「世界模型」，中国自研Matrix-3D已抢先实现了？

中国自研世界模型Matrix-3D可单张图生成3D世界，效果对标李飞飞的World Labs，还能实现更大范围探索。它有诸多优势，技术上有创新，数据集有特点，应用前景广泛。

OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。

它石智航联合六大顶尖机构推出OmniVTA视触觉操作框架和OmniViTac大规模视触觉数据集。该框架核心是从被动感知到主动预测触觉，通过多模块协同让机器人有预测、理解和修正能力，实验表现优。

pdf2skill技术是“文档转技能编译器”，能将PDF知识转化为AI可调用技能包。它解决了计算机视觉研究和工程中的痛点，介绍了原理、实战案例、代码实现，还对比性能、给出使用指南。

阿里通义千问发布Qwen3.5系列四款小模型，采用Gated DeltaNet混合注意力机制。有原生多模态设计，解决“内存墙”问题。在多基准测试中表现出色，开发者反响好，但也存在幻觉级联、调试局限等问题。

清华大学团队推出Dolphin模型，仅用6M参数，通过离散化视觉编码和热扩散注意力机制，实现单次推理精准分离语音，速度提升6倍以上，在多项基准测试中刷新纪录，为端侧设备部署开辟新路。

多所高校研究团队开发出PrimeNash大语言模型智能体框架，能自动推导纳什均衡闭式解析解并生成证明。它模拟人类科研路径，分三模块求解，经经典博弈验证，还在碳市场博弈展现应用潜力。

在AIGC浪潮中，3D生成模型虽进化快，但‘慢’和计算量大制约其应用。西湖大学AGI实验室提出无需训练、即插即用的Fast3Dcache框架，能在加速同时保持或提升模型几何质量。

为换回注意力，OpenAI紧急发布GPT - 5.1 Codex Max。它在编程测试中表现优于Gemini 3 Pro，还实现24小时项目级开发。引入自动压缩与扩展推理改进，效率提升，现已多途径可用，API访问将开放。

传统智能体系统难兼顾稳定性和学习能力，斯坦福等团队提出AgentFlow框架，通过模块化和实时强化学习优化策略，使7B参数模型在多任务上超越GPT - 4o等大模型，为AI发展提供新思路。