搜索：推理服务基础设施

「推理服务基础设施」共找到 2949 篇相关文章

震惊！如果AI掌控核按钮，95%的情况它会按下去

伦敦国王学院研究者让GPT - 5.2、Claude Sonnet 4和Gemini 3 Flash三款模型模拟核危机博弈。不同时间框架下模型表现不同，还展现复杂战略推理能力，95%对局用了战术核武，暴露诸多问题。

面对Claude Opus 4.6和GPT Codex 5.3的攻势，谷歌升级Gemini 3 Deep Think，在多项基准测试刷爆SOTA，推理成本降低82%。它还走进科研工程领域，其研发团队有不少华人，如姚顺宇、Yi Tay。

文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。

1月26日，天数智芯公布四代架构路线图，其2025年的天数天枢架构，在DeepSeek V3场景实测性能领先英伟达Hopper约20%。该企业以技术创新、解决行业痛点等构建新范式，产品全场景布局且已规模化落地。

微软提前发布自研AI芯片Maia 200，基于台积电3纳米工艺，性能超竞品，是其异构AI基础设施重要部分，将支持多个大模型，已部署在美中数据中心，还开放Maia SDK预览。

卫星星座成数字经济时代基础设施，但运行背后规划难题待解。北航刘偲教授团队提出首个大规模真实星座调度基准AEOS - Bench，训练内嵌时间约束的调度模型AEOS - Former，为‘AI星座规划’奠定新技术基准。

雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。

Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。

马斯克让Grok 5戴「纯视觉感知」与「拟人延迟」镣铐挑战LOL传奇战队T1。这是终极图灵测试，AI像人一样感知与推理。对决为特斯拉Optimus练兵，若AI看懂团战，就能理解现实世界。

Lumine能像人类一样理解游戏画面、推理并操作，以接近人类效率5小时通关《原神》蒙德主线，还能零训练玩《鸣潮》等。它是开放式研发方案，靠少量数据和显卡让模型成强大智能体。