「多租户服务」共找到 4543 篇相关文章
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
没受DeepSeek影响，英伟达最新财报创历史记录，同比增长260%
今天凌晨英伟达发布2025财年第一季度财报，收入达260.44亿美元，同比增262%，净利润飙升628%。多业务出色，还推出新硬件、技术和软件服务。二季度业绩展望佳，有望延续增长。
真钱买假模型？187篇论文被「套壳API」坑惨，准确率暴跌
CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。
首创郎园成功举办AIGC视听产业人才新生态大会
2025年首创郎园AIGC视听产业人才新生态大会在北京举办，由多机构联合主办，众多高校、企业及嘉宾参与。大会聚焦构建产业‘星探’平台，展示成果、成立矩阵、发布资源包、启动大赛等，推动人才与产业对接。
16K星 Zep凭一张“动态记忆图”吊打一众Graph RAG
现有的RAG框架多依赖静态文档检索，无法满足企业对动态知识整合的需求。本次分享的Zep提供新型智能体记忆层服务，通过核心组件Graphiti动态整合数据，在LongMemEval基准测试中表现出色。
具身智能迎来ImageNet时刻：RoboChallenge开放首个大规模真机基准测试集
近日，RoboChallenge推出全球首个大规模、多任务真机基准测试。它构建开放、公正、可复现的‘真实考场’，为视觉 - 语言 - 动作模型提供评估标准，推动具身智能发展，还提供远程测试服务等。
不上云、不租卡，如何优雅地在本地微调Qwen-VL-30B？
文章指出企业训练多模态助手，30B 参数的开源多模态模型如 Qwen-VL-30B 是不错选择，但多模态场景下显存需求大。联想 ThinkStation PGX 解决了显存难题，还介绍其性能、优势、适用场景及服务等。
Turso：用 Rust 重写 SQLite，让数据库跑在每一个边缘节点
Turso用Rust重写SQLite内核，解决其单写者限制和缺乏网络同步能力的短板。它有嵌入式副本、边缘同步和向量搜索等特性，适用于AI Agent、多租户SaaS等场景，与竞品相比优势独特。
100亿美元！AI时代最闷声发财的两家公司，要合并了
《华尔街日报》报道，支付公司Stripe正与AI初创公司OpenRouter谈判收购事宜，价格达100亿美元。OpenRouter是全球规模最大的AI模型聚合平台，Stripe为科技公司提供底层金融服务。此次收购将扩展Stripe业务至AI生态。
硅基智能完成数亿元D轮融资，司马华鹏带领团队深耕全球AI数字人生态。
2025年8月11日硅基智能完成数亿元D轮融资，由嘉兴高新区产业基金独投。其自2017年成立已累计超10轮融资，总超十亿元。该司技术领先，打破AI落地困境，商业覆盖多行业，还构建开发者生态。