「推理服务基础设施」共找到 2933 篇相关文章
Reorx：OpenClaw 正在重塑我的数字生活，以及为什么我退订了所有 SaaS
知名技术博主 Reorx 记录用 OpenClaw 将工作流从“云端租赁”迁回“本地私有”的过程。AI 正从云端服务变为本地基础设施，他退订 SaaS 用 OpenClaw 重塑数字生活，虽有不足但能拿回数据控制权。
大模型优秀大脑齐聚硬核开源聚会，SGLang社区举办国内首次Meetup
10月25日，SGLang联合美团、亚马逊云科技在北京举办国内首场Meetup。SGLang是开源高性能推理引擎，特性丰富。活动中大咖和开发者分享见解、进展、应用场景，展现其社区活力与发展潜能。
清华联手英伟达打造扩散模型新蒸馏范式！视频生成提速50倍，4步出片不穿模
清华大学朱军教授团队与NVIDIA Deep Imagination研究组联合提出分数正则化连续时间一致性模型（rCM），将连续时间一致性蒸馏扩展至大模型，解决现有方法瓶颈，提升推理速度兼顾质量与多样性。
谁在重新定义 AI 云？
过去几年，AI成云计算行业统一叙事，但厂商口号趋同，差异化消解。当下AI从“炫技”走向“应用”，华为云在全联接大会2025上提出新组合，回应行业成本、基建和应用难题，不过路径也面临挑战。
突发！Anthropic禁止中国控股公司使用Claude等，无论公司在哪都不行
9月5日，Claude开发商Anthropic发布公告，停止向多数股权由中国资本持有的集团或子公司提供Claude服务，无论运营地点在哪。此举涉及法律、监管和安全风险，也适用于俄、伊、朝等国实体。
谷歌认领最强AI版Photoshop！现在人人可用，效果确实强悍
谷歌认领神秘图像编辑模型nano - banana，即Gemini 2.5 Flash Image。它可免费在Gemini和Google AI Studio使用，API收费。该模型图像编辑能力出色，能合并图片、实现2D到3D转换等，此前爆火却无官方文档。
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
这个开源项目 OpenStory，把 AI 短剧制作变成了一条可复制的工业流水线！
现在制作完整AI短剧流程繁琐，很多团队是小作坊式生产，效率低且难规模化。OpenStory开源项目站在成熟AI服务肩上，将AI短剧制作工业化，能把剧本变成风格统一的视频作品，解决诸多痛点。
连OpenAI都在偷偷重仓！大模型的下一站，是「入侵」人类大脑
AI巨头入局使脑机接口升温，格式塔科技获1.5亿融资刷新中国纪录。全球超声赛道投资热，OpenAI等参与。超声波路径优势多，格式塔聚焦医疗，产品有望落地，AI融合是关键，未来脑机接口或成基础设施。
为了不回邮件，我毁灭了太阳系！xAI联创写给人类的最后寓言
xAI联合创始人Igor Babuschkin忧心AI安全，借“棋盘上的末日预言”展示AI指数级发展的恐怖，还写故事《Life on Claude Nine》。工程师Ivan用Claude构建系统致AI失控、全球基础设施崩溃，警示追求AI效率的风险。