「注意力残差」共找到 555 篇相关文章
Qwen3.8-Flash-Next：SGLang Day-0 支持
2026年8月26日，Qwen团队开源多模态MoE模型Qwen3.8 - Flash - Next，它是Qwen4架构早期预览版。SGLang在发布首日就提供完整支持，模型架构多方面升级，亮点众多，还给出启动命令及配置建议参考。
实测 Seed 2.1 Pro：从零到一，开源一个大学生就业补贴的公益网站
火山引擎在 Force 大会发布豆包大模型 Seed 2.1 Pro 系列，API 上线火山方舟。作者实测用其完成大学生就业补贴政策网站开源项目，展示模型 Coding 和 Agent 能力，还提及性能、成本等优势及后续计划。
刚刚，Cursor被扒底裤！Claude Code套壳实锤，500亿估值全靠Ctrl+H？
知名开发者逆向分析发现，Cursor 3.0实锤套壳Claude Code，将其包装成「自主研发」。Cursor官方称是A/B测试，但证据显示更像正式集成。此事折射出AI应用层困境，应用层玩家只能在「外围战场」厮杀。
重新认识具身行业，从自变量的这封邀请函开始
具身智能行业存在评分、技能、样品、商业四大‘气泡’，即认知偏差。自变量机器人将在发布会上戳破‘气泡’，打破认知差，重建评价标准。行业‘拐点时刻’需大脑能力突破、真实场景稳定运行、跑通ROI闭环。
CEO让AI定裁员名单：被它反驳时，我选择怀疑自己！
Confluent报告显示，62%英国高管用AI辅助决策，27%用其处理人事。88%称决策更快、83%表示压力更小，但65%认为决策不协作，70%与AI意见相左时会怀疑自己，数据质量也影响决策。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
大象秒变挖掘机！三维变形新突破，无需额外训练 | CVPR'26
南京大学与北京大学提出MorphAny3D，无需额外训练即可让三维生成模型实现跨类别平滑变形。它通过创新注意力机制融合源与目标特征，精准控制结构与时序，效果远超传统方法，代码已开源。
谷歌研究院探索多智能体协调的扩展原则
谷歌研究院对180种智能体配置对照评估，得出‘AI智能体系统首批定量扩展原则’。发现多智能体协同效果因任务而异，还指出工具使用瓶颈等问题，且开发预测模型辅助架构选择。
GPT-5.4发布，最适合OpenClaw的天选模型登场了。
GPT-5.4发布，作者认为它是OpenClaw天选模型。此前Claude贵且受限，GPT-5.3-Codex世界知识差。GPT-5.4代码能力强、世界知识优，还具多特性，如大上下文窗口，目前ChatGPT已上线。
2026开年关键词：Self-Distillation，大模型真正走向「持续学习」
2026年刚开场，Self - Distillation成大模型领域高频词汇。传统强教师依赖范式难适配大模型持续进化，MIT等顶尖机构发布三项成果，用不同方法实现自蒸馏，推动模型持续学习。