「架构参数」共找到 2374 篇相关文章
FlashAttention 完全进化史：FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
刚刚，马斯克开源Grok 2.5：中国公司才是xAI最大对手
马斯克主导xAI正式开源Grok 2.5，Grok 3将半年后开源。Grok可在HuggingFace下载，运行有条件。虽Grok 2曾有不错表现，但网友对其参数权重、开源协议等有诟病。此外，还更新APP视频生成功能，马斯克称中国公司是xAI最大对手。
AI大模型开发核心技术栈：从框架到部署的全景解析
本文为开发者提供2025年AI大模型开发核心技术栈图谱，解析四大核心支柱技术。基础开发框架含深度学习与AI Agent框架；模型训练与微调有分布式训练、参数高效微调；推理优化含关键技术与主流框架；AI编程辅助工具分主流形态且有发展趋势。
NVIDIA技术沙龙《强化学习流水线优化：性能分析与 Rollout加速》演讲笔记
该演讲笔记围绕强化学习流水线优化，强调用Nsight Systems做性能分析，介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧，如Actor训练和Rollout优化，还以Qwen 2.5 7B等模型为例总结参数调优经验。
Qwen3.6-27B 开源：小小身材，超级码力
阿里云宣布开源 Qwen3.6-27B 多模态模型，支持多模态思考与非思考模式，在智能体编程方面超前代旗舰 Qwen3.5-397B-A17B。它已在 Qwen Studio 上线，开源权重可从 Hugging Face 和 ModelScope 下载，阿里云百炼 API 即将支持。
年前看到最有深度的AI下半场Agents记忆机制综述
本文是一篇83页的基础智能体记忆机制综述，由27家机构联合发表。提出AI研究范式转变，记忆是填补理想与现实差距的关键。构建三维统一分类框架，介绍记忆操作、学习策略、评估体系、应用场景及未来方向。
李飞飞团队新作：简单调整生成顺序，大幅提升像素级图像生成质量
长期以来，AI生图面临潜空间模型细节损耗、像素空间模型结构混乱速度慢的矛盾。李飞飞团队最新论文提出Latent Forcing方法，通过重排生成轨迹，让像素扩散模型找回效率并刷新SOTA。
重磅！翁荔最新Scaling Law深度洞察来了
北大毕业的前OpenAI高管翁荔（Lilian Weng）的《Scaling Laws, Carefully》值得一读。Scaling law是预训练预算表，能帮少烧错钱。文章探讨大模型训练预算分配，分析Kaplan和Chinchilla结论差异及数据稀缺问题。
华为CloudMatrix重磅论文披露AI数据中心新范式，推理效率超NV H100
华为发布60页重磅论文，提出下一代AI数据中心架构Huawei CloudMatrix及产品CloudMatrix384。它架构设计独特，性能高效准确灵活，打破算力、延迟和成本“不可能三角”，重新定义AI基础设施。
博士学位答辩PPT分享 | Scalable Operation-aware Aerodynamic Design
杨奥博博士毕业于香港科大，长期研究多学科优化方法在飞行器等设计中的应用。其博士论文提出可扩展的、基于任务感知的气动设计框架，贯通关键环节，形成一体化方法体系，有多项创新成果。