「稀疏注意力优化」共找到 1447 篇相关文章
AI 驱动的大数据自治：TCInsight 智能应对复杂运维挑战
在大数据平台高速发展下，传统专家运维模式难应对复杂问题。腾讯专家工程师熊训德介绍大数据智能管家 TCInsight，其架构分三层，结合规则与专家系统提升自治能力，还分享实践案例，指出后续待优化方向。
阶跃新模型快到“没推理”！印奇上任，果然气势一新
印奇上任后，阶跃星辰发布新一代开源Agent基座模型Step 3.5 Flash，总参数196B，支持256K上下文窗口。它推理快，适配多家芯片厂商，在多场景表现出色，还具备端云协同能力，架构也有多项优化。
142 TFLOPS 的差距：为什么在 Blackwell 上 FP4 MoE 算子工程至关重要
文章对三种主流MoE后端在Blackwell B200 GPU上做基准测试，发现SGLang与vLLM有142 TFLOPS差距，小batch时SGLang快1.84×。差异源于kernel融合、面向Blackwell的CUTLASS schedule及自适应grid sizing等优化。
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。
从静态模型到数字生命体：自进化AI Agent综述
近年大型语言模型催生AI智能体发展，但现有系统依赖人工预设，难适应动态环境。论文提出自进化AI智能体，可通过环境反馈自动优化，还提出三定律、四阶段范式演进模型等，开源EvoAgentX框架。
手机上实现AI视频实时生成，DiT模型上移动端
扩散变换器在视频生成任务性能强，但计算成本高，在手机上难实用。Snap提出创新优化法，加速视频生成，能在iPhone 16 Pro Max上每秒超10帧，不过也存在细节退化等局限。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
美光沉迷制造“电子黄金”，不在乎AI泡沫
当地时间12月17日盘后，美光2026财年第一财季多项业绩指标超预期，营收和利润大涨。美光不相信“AI泡沫”，其业绩增长源于AI驱动的高带宽内存需求爆发。美光预计HBM市场规模将快速增长，还进行了产品结构优化。
前两天刚被群嘲，ChatGPT转头就解决了一个数学难题
前些天，OpenAI研究员宣称GPT - 5‘发现’数学难题解法被指只是检索文献引群嘲。但加州大学洛杉矶分校教授用ChatGPT解决凸优化未决问题，还有教授用其发现命题反例，甚至要将其列为论文一作，AI正成研究伙伴。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。