「混合注意力架构」共找到 2115 篇相关文章
谢赛宁团队用RAE实现从8%到84%的飞跃，宣告VAE时代结束
谢赛宁团队用RAE新架构将ImageNet图像生成FID刷到1.13，宣告VAE组件过时。RAE结合先进表征学习成果与强大生成模型框架，解决诸多问题，还为其高维潜空间定制DiTDH架构，性能优异。
微信技术架构部斩获CVPR 2025大赛冠军，攻克AI图文匹配评估难题
微信WXG技术架构部IH-VQA团队在CVPR2025大赛夺冠，首创iMatch图文匹配质量评估方案。文中介绍赛事背景、规则，团队通过双模型驱动等策略获胜，还构建iMatch-Benchmark评估主流T2I模型。
合合信息：基于 JuiceFS 构建统一存储，支撑 PB 级 AI 训练
合合信息为应对AI训练存储挑战，引入JuiceFS构建统一存储架构，结合BeeGFS作缓存。该架构提升I/O性能与资源调度效率，还通过缓存优化、数据治理等措施，支撑多业务并发，为AI基建奠基。
Meta 删邮件事故背后，OpenClaw 为什么会“失忆”？代码库维护者拆解记忆架构
OpenClaw在使用中易“失忆”，如Meta对齐总监用它处理邮件时失去控制。文章从代码库维护者视角，拆解记忆架构，介绍记忆层次、失败模式，给出配置建议和故障排除方法，助用户了解并优化其记忆机制。
Agent Team 实践与架构设计：在约束下构建可演进的一个人开发团队
作者结合构建的Routa，探讨在Token、流程、工具选择等约束下构建可演进的多Agent系统。介绍了Routa架构、原则，如跨Agent通信、状态外置等，还阐述了各设计要点及示例，强调系统可演进性。
摩尔线程的野心，不藏了
上市15天后，摩尔线程在首届聚焦全功能GPU的开发者大会上，围绕MUSA推出诸多新品，包括新GPU架构、芯片、智算集群和硬件产品，还将开源核心组件，构建生态，其架构创新定义未来AI产业格局。
突破类脑模型性能瓶颈：校正频率偏置实现性能与能效双突破｜NeurIPS 2025
香港科技大学（广州）等团队在NeurIPS 2025论文指出，脉冲神经网络（SNN）性能不佳根源是频率偏置，非二进制激活。团队提出Max - Former架构，校正频率偏置，实现性能与能效双突破，卷积架构也适用。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
把抖音的研发管理搬到车企，跑得动吗？
飞书项目在深圳新品发布会推出整车研发解决方案，首次明确‘平台化’定位并公开产品架构。其方案覆盖架构整合等四场景，还进行技术升级，如轻应用、Project 4K 计划等，已获车企实践验证。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。