「显存管理」共找到 593 篇相关文章
Hybrid Model Support：阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案
文章介绍阿里云 Tair KVCache 团队与SGLang社区在推理框架上支持混合架构模型的工程化实践。分析混合架构崛起原因、面临挑战，阐述内存管理、关键技术优化方案，验证性能，并指出未来演进方向。
腾讯云TencentOS智能运维平台TManager正式发布 | Q推荐
为满足企业运维需求，腾讯云推出 TencentOS Server 首款智能运维管理平台 TManager。它有 30 余项功能，能 AI 智能诊断，内部稳定运行多年，覆盖复杂场景，还赢得标杆客户信任，提升运维智能化水平。
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
Anthropic官宣PTC突破，中国开发者一年前就实现了
2025年11月24日，Anthropic发布PTC特性，让Claude通过代码编排工具执行。但国产minion框架早有类似架构，不仅将此作为基础架构，还支持Python生态、状态管理等功能，在实际应用中更高效灵活。
Meta AI部门大地震！小扎急派心腹干将「救火」
Meta AI部门再现人事大地震，前元宇宙负责人Vishal Shah转岗任人工智能产品副总裁，协助Nat Friedman整合AI产品战略。此次调整与Friedman近期管理表现相关，Shah经验丰富或助Meta AI更稳健发展。
OpenAI官方揭秘：我们这样用Codex写代码「7大核心用法、6条最佳实践首次公开」
本文基于对OpenAI工程师访谈和内部数据，汇编了Codex的7大核心用法，如代码理解、重构与迁移等，还给出6条最佳实践，展示其如何助力团队高效工作、提升质量及管理复杂性。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
AI 时代操作系统的三重叙事：技术重构、国产化突围与生态共建
《AI 进化论：智算时代操作系统的破局之路》首期，周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战，技术演进分两条路径，还谈到安全、国产化、生态共建等问题。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
GitLab 18.0 发布，引入 AI 编码助手
GitLab发布自托管DevSecOps平台18.0版本，为Premium和Ultimate档引入更多AI功能，如代码建议、智能聊天、自动代码分析等，还在性能、安全、管理等方面有改进，部分用户升级遇问题。