「稀疏注意力优化」共找到 1447 篇相关文章
JFM | 浙江大学郑畅东、谢芳芳等：基于Transformer网络的上下文学习跨翼型的主动流动控制策略
浙江大学郑畅东、谢芳芳等提出基于Transformer网络的上下文学习跨翼型主动流动控制策略。该框架引入策略改进算子，结合强化学习与气动形状优化，在翼型流动分离问题中表现出色，提升了整体性能。
Qwen3.8-Flash-Next：SGLang Day-0 支持
2026年8月26日，Qwen团队开源多模态MoE模型Qwen3.8 - Flash - Next，它是Qwen4架构早期预览版。SGLang在发布首日就提供完整支持，模型架构多方面升级，亮点众多，还给出启动命令及配置建议参考。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
DeepSeek V3到V3.2的进化之路，一文看全
知名AI研究者Sebastian Raschka发布深度博客，详细梳理DeepSeek V3到V3.2进化历程。DeepSeek V3.2性能对标GPT - 5和Gemini 3.0 Pro，且为开放权重模型，报告涵盖众多有趣领域和知识。
日本AI王者，CTO是Transformer之父，刚拿下世界编程竞赛冠军
在ICFP 2025编程大赛中，日本Sakana AI的「Team Unagi」以人机共创模式夺冠。其AI系统「ShinkaEvolve」优化代码，性能提升近十倍，还启发人类思维。Sakana AI以自然进化为理念，探索AI新范式。
陶哲轩联手GPT-5，1小时攻克数学难题！全程无需编码，OpenAI副总惊呼
陶哲轩联手ChatGPT攻克MathOverflow复杂数学题，节省数小时编码时间。他先让ChatGPT生成代码，后改用分步对话找参数，还验证结果。AI助其发现错误、优化流程，凸显在数学研究的潜力。
DeepSeek V4 借实习生获奖论文“起飞”？梁文峰剑指上下文：处理速度提 10 倍、要“完美”准确率
ACL公布2025年获奖论文，中国作者比例超51%。DeepSeek梁文锋通讯、实习生袁境阳一作的论文获Best Paper奖。其提出NSA机制，实验显示性能优、准确率高、速度提升显著，成果或用于DeepSeek V4。
媲美DeepSeek！腾讯开源新版混元模型：AI Agent强化，超30种智能体指令
腾讯开源混元大模型最新版本Hunyuan - A13B，为专家混合模型，有800亿参数，130亿激活。支持快慢思考模式，针对AI Agent强化，设计超30种智能体指令。测试成绩超DeepSeek - R1等，架构和训练有优化。
华为+DeepSeek，推理性能创新高！技术报告也公布出来了
华为昇腾在部署超大规模MoE时推理性能创新高，全面超越英伟达Hopper架构。其采用‘以数学补物理’方式，还将全面开源。团队从多方面优化，在不同硬件上取得优异性能，本周还将举办技术披露周。
快手 AB 场景提速 145 倍，从 Spark 到 Apache Doris 的加速实践
快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%，刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因，以及在存储、计算、调度、稳定性等方面的优化，对构建 AB 实验平台有参考价值。