「显存分析」共找到 1167 篇相关文章
【博客转载】CUDA Shared Memory Swizzling
文章讨论用swizzling技术处理CUDA共享内存bank冲突，它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例，对比有冲突、填充、swizzling三种实现，还分析了swizzling和填充优缺点。
华为昇腾推理对决：开源vLLM vs 官方MindIE，数据说话「Qwen与DeepSeek推理实测」
文章围绕华为昇腾推理，对比开源vLLM与官方MindIE。借助GPUStack平台测试Qwen与DeepSeek模型，分析不同场景性能。指出vLLM和MindIE各有优势，还强调构建国产AI推理生态需多要素，鼓励开源协作。
火山引擎，「出击」Agent
2025 年年中大模型竞争进入下半场，Agent 成焦点。文章分析其 2B 与 2C 落地困境，介绍火山引擎新开发范式，如 TRAE、豆包大模型 1.6、PromptPilot 等，助企业解决 B 端落地难题。
GitLab 18.0 发布，引入 AI 编码助手
GitLab发布自托管DevSecOps平台18.0版本，为Premium和Ultimate档引入更多AI功能，如代码建议、智能聊天、自动代码分析等，还在性能、安全、管理等方面有改进，部分用户升级遇问题。
从browser-use 出发，品 Agent 实现
本文作者以学习总结视角，从browser - use出发解析Agent实现。介绍LLM不同阶段，阐述Agent记忆、规划、工具等要素，通过对话演示和源码分析展示运行机制，还探讨MCP集成和Coze space应用模式。
字节跳动开源文档解析大模型Dolphin，告别繁琐的文档处理，上线狂揽1k星，真是绝了！
字节跳动开源文档解析大模型Dolphin，采用两阶段分析 - 解析范式，有异构锚点提示等功能，适用多领域。技术架构基于视觉 - 编码器 - 解码器，训练集超3000万个样本，安装推理简单，比同类更具竞争力。
奖励是假的，能让Qwen提升25%性能却是真的！
华盛顿大学博士生团队用Qwen模型对虚假奖励进行RLVR，使MATH - 500准确率显著提升约25%。研究发现RLVR不考虑奖励正确性，还分析了虚假奖励有效的原因，提示现有研究要在非Qwen模型验证。
大模型微调知识与实践分享
文章详细介绍大型语言模型（LLM）微调知识与实践，包括模型结构、参数量等知识，以及Prompt工程、数据构造、LoRA微调等技术点。还给出微调实践流程，介绍相关平台和框架，如星云、TuningFactory等。
Dify、n8n、Coze、Fastgpt、Ragflow到底该怎么选？超详细指南～
文章对比了Dify、Coze、n8n、FastGPT和RAGFlow五个主流平台，从功能、使用体验、应用场景等方面详细分析其特点，给出选择建议，还提醒考虑预算、技术能力等要素，帮读者选合适平台。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。