搜索：流式注意力掩码

「流式注意力掩码」共找到 279 篇相关文章

不靠海量数据，如何精准喂养大模型？上交Data Whisperer：免训练数据选择法，10%数据逼近全量效果

上海交通大学等团队提出 Data Whisperer，首个免训练的注意力驱动数据选择框架。它利用模型自身能力打分挑数据，无需训练与人工标注，用 10% 数据让微调效果逼近全量数据，在多方面领先传统方法。

北大团队发布GENIUS，用于评估模型生成式流体智力。它构建含510个样本、20个子任务的评测集，测试模型多方面能力。实验显示当前模型流体智力有短板，还提出免训练注意力校准机制提升性能。

面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。

Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。

做实时语音转文字系统，上云端 API 贵且隐私难保障，本地跑 Whisper 延迟高。WhisperLiveKit 是专为本地流式语音识别优化的全栈方案，解决了 Whisper 痛点，有极速处理等功能，适用多类项目。

OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。

本周一，ICML 2025公布最佳论文奖项，共8篇获奖，含6篇杰出论文奖、2篇杰出立场论文奖，南京大学研究者上榜。大会投稿量持续增长，展示AI领域火热。文中介绍了各获奖论文的研究内容与成果。

谷歌DeepMind团队开源基于Gemini 2.5的全栈「Deep Research」项目，能让每个人拥有智能研究助手。它可动态搜索、反思结果，以流式传输提供带引用答案，前后端结合，还介绍了特性、原理、技术栈等。

阿里通义千问发布Qwen3.5系列四款小模型，采用Gated DeltaNet混合注意力机制。有原生多模态设计，解决“内存墙”问题。在多基准测试中表现出色，开发者反响好，但也存在幻觉级联、调试局限等问题。

清华大学团队推出Dolphin模型，仅用6M参数，通过离散化视觉编码和热扩散注意力机制，实现单次推理精准分离语音，速度提升6倍以上，在多项基准测试中刷新纪录，为端侧设备部署开辟新路。