「卸载服务」共找到 627 篇相关文章
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
这个开源项目 OpenStory，把 AI 短剧制作变成了一条可复制的工业流水线！
现在制作完整AI短剧流程繁琐，很多团队是小作坊式生产，效率低且难规模化。OpenStory开源项目站在成熟AI服务肩上，将AI短剧制作工业化，能把剧本变成风格统一的视频作品，解决诸多痛点。
腾讯想复刻2015，阿里想跳过它
2026年春节档，互联网大厂开启红包大战。腾讯元宝投入10亿，阿里千问投入30亿搞“春节请客计划”。千问想让用户体验AI时代生活消费新方式，跳过发钱阶段进入服务层，欲成“大阿里”未来入口。
Mem0,用LLM给智能体解决记忆问题，开源
大模型训练后知识和记忆不再增加，智能体记忆能力发展不理想。国外Mem0针对AI记忆技术发表论文并开源，提出Mem0和Mem0g两种方案，在不同场景表现出色，已获多应用，还提供SaaS服务。
优必选「拆墙」：具身智能行业等了三年的「安卓时刻」来了吗？
4月23日，优必选在FAIR plus 2026机器人全产业链接会期间发布开发者专属社区「Thinker Cosmos」。该平台能连接场景需求与开发者，解决行业痛点，以分层服务构建生态，还提及聚焦家庭场景刚需点。
中科闻歌完成新一轮战略融资，引领企业级人工智能技术发展
近日，中科闻歌完成新一轮战略融资，投资方为石景山区产业基金。融资用于自研决策智能操作系统DIOS研发与推广。中科闻歌技术实力强，有全栈自研体系，已服务超千家客户，后续将深耕多领域并拓展海外市场。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
Qwen3.8-Flash-Next：SGLang Day-0 支持
2026年8月26日，Qwen团队开源多模态MoE模型Qwen3.8-Flash-Next，是Qwen4架构早期预览版。SGLang在发布首日提供完整支持，模型架构多方面升级，亮点众多，还介绍各组件优化及PLE架构与卸载优势。
13 万人收藏的 Openclaw 登顶GitHub No.1！附上超绝性价比部署指南！(保姆级)
Openclaw在GitHub上Star数近13万，登上多榜单TOP1。作者介绍用GitHub Codespaces零成本搭建其服务，搭配Kimi K2.5模型和Discord应用，还给出部署步骤、常见问题解决办法及功能演示。