「稀疏注意力优化」共找到 1447 篇相关文章
揭秘LLM“思考”之谜：推理即“梯度下降”，元学习框架解构训练过程，还给优化提供新思路
上海AI Lab团队提出RaML框架，从梯度下降和元学习角度揭示LLM“思考”机制。通过实证验证推理轨迹作为参数更新的合理性，还对比不同训练策略，指出RaML为优化LLM性能提供新思路。
CNSNS｜西工大曹文博、张伟伟：克服优化求解器中的损失条件数瓶颈：一种良性损失函数
基于优化的偏微分方程求解方法受关注，但实际慢于经典迭代求解器。本文从条件数角度审视效率瓶颈，指出标准MSE损失导致条件数平方放大、减缓收敛。提出稳定梯度残差损失SGR，在收敛速度与稳定性间建立平衡，实验验证其有效性。
微信自研高性能推理计算引擎 XNet-DNN：跨平台 GPU 部署大语言模型及优化实践
本文深入解析微信自研的高性能推理计算引擎 XNet-DNN，介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力，在多方面超越现有解决方案，还给出了详实对比实验数据。
长文本生成迎来新突破：拓元智慧推出 DrDiff ，实现效率与质量双提升
拓元智慧联合多团队开发出 DrDiff 框架，解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”，有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件，经测试表现良好，未来应用值得期待。
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
DeepSeek-V3.2正式版发布，将开源模型的能力推向极致
DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
ASO是什么意思？ASO目标与工作内容，ASO常见误区（基础篇）
ASO（应用商店优化）的精髓在于通过对产品特性的分析与用户群体标签的判断，挑选相关度高的关键词，提升App的覆盖、曝光、转化，从而获取更多用户。它不仅包括关键词搜索排名优化，还涉及榜单排名、转化率、推荐位等优化，提升App在应用商店的自然下载量。
ETT：打破原生多模态学习视觉瓶颈，重塑视觉tokenizer优化范式
本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。
分享一个谷歌和百度都优化得不错的网站
一个域名注册于2008年的网站，2020年5月才真正启动，却在谷歌和百度的优化上做得风生水起。它的流量主要来自搜索引擎，谷歌收录484万条，百度收录193万条。这个网站通过子域名提升权重，并巧妙地使用分类而非重复关键词来优化内容，使其在搜索结果中排名靠前。