「层级权重共享」共找到 373 篇相关文章
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
Agent群体智能来了！魔搭开源Agent自进化群体智能框架：群体记忆自动蒸馏与进化，8万+群体技能即取即用，智能体画像一键复用
个人或团队部署使用智能体面临状态易失、重复试错、迁移困难等痛点。魔搭ModelScope团队开源的Ultron框架，补上群体协作基础设施，解决经验沉淀、技能进化和画像共享问题，提升智能体协作效率。
大模型能力，小模型成本！Google等 | 提出递归混合框架：MoR， 大幅提升LLM计算效率
Google提出递归混合框架（MoR），融合参数共享与自适应计算。它有轻量级路由和KV缓存策略，在不同路由机制各有优劣。实验显示，MoR在性能、计算和内存效率上表现出色，有望实现“大模型能力，小模型成本”。
OpenAI即日起测试给ChatGPT用户加广告
OpenAI今日起在美国对已登录成年Free和Go订阅层级用户测试ChatGPT广告功能。广告不影响回答内容，目的是为免费及低价服务提供资金。有不看广告的办法，广告匹配有规则，隐私有保障，此次测试为收集反馈。
斯坦福英伟达推出测试时强化学习：微调开源模型胜过顶级闭源模型，仅需几百美元
斯坦福、英伟达等提出TTT - Discover方法，基于开源模型gpt - oss - 120b，在测试阶段引入强化学习更新模型权重。它采用熵目标函数和PUCT启发机制，解决分布外问题，成本低且表现优，但目前适用于连续奖励场景。
痛点突破：YOLOv26引入AAttn区域注意力机制，精度提升1.3个百分点
文章介绍YOLOv26引入AAttn区域注意力机制，解决传统机制在复杂场景下的不足。它通过划分特征图区域学习权重，提升检测精度，且实现简单。经实验验证，精度提升显著，还给出实现细节与优化建议。
【博客转载】CUDA Shared Memory Swizzling
文章讨论用swizzling技术处理CUDA共享内存bank冲突，它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例，对比有冲突、填充、swizzling三种实现，还分析了swizzling和填充优缺点。
GPU利用率不到15%，AI产业最大的浪费正在被这家公司改写｜甲子光年
AI产业发展中算力成本高、利用率低问题凸显。趋动科技押注‘软件定义GPU’，试图把独占GPU变为共享算力池，其产品使客户GPU利用率平均提升约4倍，已服务超200家头部客户。
北航团队提出新的离线分层扩散框架：基于结构信息原理，实现稳定离线策略学习｜NeurIPS 2025
北航彭浩团队提出SIHD框架，基于结构信息原理，自适应构建多尺度扩散层级，实现稳定离线策略学习。通过构建状态拓扑图、用结构信息增益引导扩散、引入结构熵正则化器，在D4RL测试中表现出色。
Qwen3.8-Max：编程与办公，全面跃升
今日正式发布Qwen3.8-Max，下周将开源其及Qwen3.8 - 27B模型权重。它参数达2.4万亿，在多方面全面提升。开发者可通过千问AI平台获API服务，性价比高。在编程、办公等场景表现出色，用户反馈良好。