搜索：张量分解 - AI Reading Hub

「张量分解」共找到 48 篇相关文章

LightX2V Ulysses Attention 实现学习笔记

本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景，其实现可概括为一种layout变换，还提供`enable_head_parallel`和`use_fp8_comm`选项，效果受运行环境等因素影响。

文章介绍Hopper GPU新特性TMA，它能高效传输多维数组数据。文中展示用TMA对2D数组操作，如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法，最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。

4月16 - 18日QCon北京大会聚焦Agentic AI等前沿话题，记忆张量CTO李志宇将分享《大模型记忆系统MemOS 2.0：StarDust技术演进与关键挑战》，梳理技术演进，推出MemOS 2.0 StarDust，还分析实践痛点与演讲亮点。

该文是对LLM奖励建模的「Analytic Rubric」范式的全面综述。介绍了Rubric概念来源，指出传统奖励模型存在对齐风险，而Rubric RM在多方面取得平衡，还阐述其工作流、各维度研究情况及面临的挑战。

文章作者作为 Cursor 付费用户，通过实验分析其与大模型通信机制和设计原理。用 OpenAI 的`gpt - 4o`模型做实验，发现它是‘基模 + 若干工具’组合，也指出在真实项目因上下文不足表现不佳。

哈工深张正团队联合多团队发布论文，提出 NaLaFormer 框架，解决线性注意力两大核心缺陷，保持线性复杂度同时精度超越，在多任务表现出色，如超分任务显存降 92.3%。

在LLM问答领域，多跳问题存在局限性。蚂蚁集团发布KAG - Thinker，它是基于KAG框架的模型，能解决复杂问题的逻辑连贯性和上下文一致性。还介绍了其工作原理、示例、医疗应用及稳定性表现。

本仓库用常见Python库讲解检索增强生成(RAG)技术，将其分解为易懂实现。包含一系列Jupyter Notebook，涉及20多种RAG技术，还介绍了核心概念、快速开始步骤等。

Hermes Agent 三个月登顶 OpenRouter，虽好用但记忆处理有缺陷，记忆库成大杂烩。记忆张量的 MemOS Local Plugin 2.0 可解决此问题，采用‘执行即学习’，有双层反馈机制，且资产可携带。

上海交通大学陈洛南团队与西北工业大学张绍武团队合作，在《IEEE Transactions on Pattern Analysis and Machine Intelligence》发表成果，提出动力学因果判别框架CIC，能在有未观测混杂变量时，借观测数据识别因果、重构变量与网络。