「架构问题」共找到 4683 篇相关文章
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。
ICCV 25 Highlight | 扩散过程「早预警」实现6x加速，AIGC生图的高效后门防御
随着AIGC图像生成技术流行，后门攻击威胁开源社区，传统防御技术难适配。本文作者来自多所高校，提出输入级防御框架NaviT2I，基于神经元激活差异检测样本，加速检测，性能优。
小红书最新开源TTS力作！4人对话自然无缝，毫秒极速响应！
近年来TTS技术爆发，但多人对话的自然流畅性和长序列稳定性一直是难点。小红书团队开源的FireRedTTS - 2是面向多人对话场景的TTS模型，实现自然切换和低延迟，支持多语言，适用于多种场景。
具身智能能力狂飙，安全却严重滞后？首个安全可信EAI框架与路线图出炉！
具身人工智能发展迅速，但能力与安全出现“脱钩”。上海人工智能实验室和华东师范大学团队撰写论文，为“安全可信具身智能”建立理论框架与蓝图，提出成熟度模型、分析框架等。
迈向可编程观测：在GPU Kernel中构建类eBPF风格的性能探针
文章从CUDA基础讲起，以矩阵乘法为例介绍性能调优，再到PTX汇编知识，最后引入Neutrino框架构建可编程GPU性能探针。展示了GPU Kernel性能分析从宏观到微观的技术演进，提供新分析视角。
一站式机器人操作控制框架ManiUniCon
ManiUniCon是多进程机器人控制框架，为操作任务设计。有模块化设计、多机器人支持等特性，介绍了架构、支持的硬件、安装方法、使用方式、开发途径及可用工具等内容。
关于Nsight Compute中Compute Workload Analysis反映的Tensor Pipe Uti的理解
文章分析Nsight Compute中Compute Workload Analysis反映的Tensor Pipe Uti异常现象。通过实验和推算，发现ncu对L20 GPU上特定指令用错误执行延迟算指标，导致异常，还给出GEMM Kernel性能分析建议。
根治『降智』反骨仔，ChatGPT-5几条实用窍门
ChatGPT-5发布后口碑崩溃，“降智”行为不断，如发布会图表错误、算术题答错、智商测试得分低。不过作者找到增智方法，像修改提示词、让其建立行动规划等，还介绍恢复旧模型及OpenAI后续计划。
为什么 AI Agents 按结果定价这么难？
文章探讨AI Agents按结果定价难的问题。指出因技术、组织和文化基础设施缺失，短期内该模式是“海市蜃楼”，分析归因、衡量、信任、组织、市场等方面难题，也给出务实推进步骤。
JinaVDR: 一个图文混排文档搜索任务的基准集
现有文档检索基准大多只考虑纯文本，难以处理含图表等视觉信息的文档。JinaVDR 应运而生，它是图文混排文档搜索基准集，含多语言、多领域数据，可评估模型在复杂视觉文档的检索性能。