搜索：空间稀疏注意力机制

「空间稀疏注意力机制」共找到 761 篇相关文章

长文本生成迎来新突破：拓元智慧推出 DrDiff ，实现效率与质量双提升

拓元智慧联合多团队开发出 DrDiff 框架，解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”，有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件，经测试表现良好，未来应用值得期待。

DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。

随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。

空间音频技术成提升沉浸式体验关键，但现有技术未充分利用360°全景视频空间信息。OmniAudio研究可直接从360°视频生成空间音频，相关代码和数据集已开源，虽有局限但前景好。

GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。

Haven团队提出LatentChem，把化学推理从‘文本表面’挪到‘模型内部’，先在隐空间思考，再在语言空间回答。它拆分‘推理’与‘表达’，性能优异，为AI Scientist奠定基础。

新加坡国立大学等多机构发布大模型潜在空间领域首个系统性全景综述，从“基础—演进—机制—能力—展望”拆解潜空间范式的底层逻辑、技术路径与未来前景，还对比了潜空间与显式空间差异。

论文指出文本无法精准表达空间关系，现有视觉语言模型（LVLM）在空间推理上是短板。ViLaSR让模型直接画图推理，经三阶段训练，在五大空间推理测试中表现出色，还开源资源，有望带来机器认知升维。

李飞飞创立的World Labs开源核心技术Forge渲染器，可在各设备实时、流畅渲染AI生成的3D世界。它是Web端3D高斯泼溅渲染器，地位似传统3D领域“着色器”，还解决了3DGS渲染难题。

近日，Insta360 研究院联合高校提出 PanoLOG，首个面向全景输入的大规模户外三维重建工作。它解决全景分区难题，在多基准上取得领先渲染质量与小模型体积，还为户外具身智能等提供新思路。