「生产级部署」共找到 1758 篇相关文章
SGLang Model Gateway 0.2 发布：企业级一体化AI原生编排
市面上一体化AI原生编排方案稀缺，Oracle和SGLang团队推出SGLang Model Gateway 0.2。它从SGL - Router重构而来，核心能力升级，架构分三层，部署灵活，还支持Kubernetes集成和向后兼容。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
太空算力排队到2030年，这家初创公司不等了：自己造火箭把数据中心送上天
5月11日，太空基础设施Cowboy Space完成2.75亿美元B轮融资，估值达20亿美元。其创始人Baiju Bhatt计划自造火箭，将上面级改造为在轨数据中心。但造火箭门槛高，轨道数据中心面临经济、延迟等难题。
时隔一年，再次使用7个国产AI大模型写高考作文，国产模型的进步也太大了！有彩蛋。
去年评测国产模型写高考作文能力时，各模型问题不少，如用词重复、字数不足。今年再次测试7个国产模型，能力有指数级提升，文采惊人，扣题方面通义千问和文心一言表现出色。文末还有海外模型“翻车”彩蛋。
华为+DeepSeek，推理性能创新高！技术报告也公布出来了
华为昇腾在部署超大规模MoE时推理性能创新高，全面超越英伟达Hopper架构。其采用‘以数学补物理’方式，还将全面开源。团队从多方面优化，在不同硬件上取得优异性能，本周还将举办技术披露周。
快手 AB 场景提速 145 倍，从 Spark 到 Apache Doris 的加速实践
快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%，刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因，以及在存储、计算、调度、稳定性等方面的优化，对构建 AB 实验平台有参考价值。
阿里巴巴大模型品牌统一为千问
今天，阿里巴巴AI总称和核心品牌统一为千问，涵盖基础与专业领域模型，千问APP是C端旗舰应用。今年除夕开源千问3.5，多款中小型模型上榜，春节用户下单近2亿次，DAU大增成国民级助手。
聊聊腾讯 AI 的「松弛感」
文章通过播客内容探讨腾讯AI现状、大厂进击及2025年AI行业趋势。指出腾讯AI存在感弱与策略有关，其以连接器战略拓展；今年场景和用户体验优先级提高，大厂有内部提效等隐形壁垒。
首个实例理解3D重建模型！NTU&阶越提出基于实例解耦的3D重建模型，助理场景理解
人类能自然感知3D世界的几何与语义，但AI做到“两者兼得”是挑战。NTU联合StepFun提出IGGT，将空间重建与实例级上下文理解融为一体，还构建了InsScene - 15K数据集，解决了传统方法的问题。
DeepMind 发布超真实世界模型 Genie 3，AGI 向前一步
谷歌旗下DeepMind发布通用型世界模型Genie 3，可通过文本提示生成动态世界并实时交互，其生成内容物理一致性达分钟级。它功能丰富，也受业内好评，但有行动空间有限等局限，对迈向AGI意义重大。