「混合线性架构」共找到 2039 篇相关文章
Agent 落地，数据库先变
AI竞争靠近落地，Agent如何读懂业务、释放模型智能价值成核心命题，数据库也被推到台前。Agent成新用户，对数据库提出新要求。OceanBase提出湖库一体架构，欲做Agent时代数据底座，降低落地成本。
RAG外部检索是多余的，英伟达最新成果颠覆认知
英伟达INTRA论文指出RAG架构中检索器和生成器在不同表示空间工作，存在retriever - generator mismatch问题。INTRA让模型用注意力查询检索自身编码表示，训练量小，在多跳QA上超越多种检索基线。
Claude有的，国产也有！紫东太初科研龙虾ScienceClaw，已经把Harness卷进实验室
Claude发布的Managed Agents让“Agent Harness”概念受关注，而国内紫东太初ScienceClaw早有相关思路并落地。它全链条覆盖科研，能7x24小时优化，具透明执行优势，还覆盖通用场景，架构有创新。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。
谷歌DeepMind团队新框架：让AI告别每次从头开始，在任务流中越用越聪明
谷歌DeepMind团队联合伊利诺伊大学提出Evo-Memory框架和ReMem架构，改变大模型只能被动检索历史的现状，让智能体实现终身学习。通过基准测试验证其有效性，实验显示ReMem优势明显，还揭示记忆复用关键因素。
AI终于学会「读懂人心」，带飞DeepSeek R1，OpenAI o3等模型
威斯康星大学麦迪逊分校联合清华大学的研究《MetaMind: Modeling Human Social Thoughts with Metacognitive Multi-Agent Systems》，将元认知理论融入LLM架构，让AI“读懂人心”。其框架分三阶段，还有动态社交记忆，在多基准测试表现出色。
中国AI高速路，华为给出开源开放方案
上周华为全联接大会展示系列创新。超节点架构带动的开源开放意义深远，开放硬件、开源软件和灵衢组件。华为发布系列超节点新品，实现全场景覆盖，同时全面开放开源，推动产业协同与生态繁荣。
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。
单GPU搞定高清长视频生成，效率×10！引入Mamba机制突破DiT瓶颈 | 普林斯顿&Meta
普林斯顿大学和Meta联合推出新框架LinGen，以MATE线性复杂度块取代传统自注意力，使单张GPU能在分钟级生成高质量视频。它在视频质量上优于DiT，减少FLOPs和延迟，与先进模型相当。
中国半导体显示产业之父，将带出一个超级IPO
投资界消息，奕斯伟计算向港交所递交招股书，有望成“RISC-V第一股”。其掌门人为王东升，曾带领京东方走向全球霸主地位。奕斯伟计算聚焦RISC - V架构，获多轮融资，王东升还投资半导体产业链多企业。