「推理服务基础设施」共找到 2930 篇相关文章
吴恩达来信：利用编程智能体实现更高效开发
吴恩达认为编程智能体正加速各类软件工作，按加速程度排序为前端开发、后端开发、基础设施、研究。前端开发加速明显，后端开发有提升但幅度小，基础设施和研究方面加速有限。
几千亿美元远远不够！黄仁勋亲笔长文：AI 是人类历史上最大的基建浪潮
英伟达CEO黄仁勋发布长文，指出AI是关键基础设施，运行依托硬件、能源与经济规律。AI可解构为五层架构，目前投入仅数千亿美元，未来还有数万亿规模待建，正演变成最大基建运动。
鄂维南院士：回国五年，我的探索与思考
鄂维南院士回国五年，推动AI for Science、数据中心AI基础设施建设等多项工作。他分享回国经历、转行感悟，介绍各项目进展，如AI for Science成趋势、九韶内核发布等，也提及面临的问题和挑战。
让思考更准更长！强化学习新算法FIPO来了
阿里通义实验室Qwen Pilot团队发布系列博客剖析大模型强化学习机制与局限，推出新算法FIPO。该算法引入Future - KL机制，解决‘推理长度停滞’问题，在多项测试表现优异，还介绍招聘信息。
DeepSeek|从零构建轻量级vLLM：Nano-vLLM，吞吐量逼近原版，代码仅需1200行
开源的vLLM能提升LLM推理速度和资源利用率。近日，DeepSeek AI俞星凯从零构建轻量级Nano - vLLM，代码仅1200行。它有离线推理等功能，基准测试显示吞吐量逼近原版。
Qwen3-Max-Thinking：会想能干，比强更强
正式推出旗舰推理模型 Qwen3 - Max - Thinking，其在多关键维度显著提升，性能媲美顶尖模型。引入自适应工具调用和测试时扩展技术，现已上线 Qwen Chat，API 也开放，还介绍了使用方法。
OpenAI主攻速度的第一个模型来了：GPT‑5.3‑Codex‑Spark
OpenAI发布GPT-5.3-Codex-Spark，是GPT-5.3-Codex轻量级版本，也是首个为实时编程设计的模型。亮点是速度快，推理超每秒1000 token，已向ChatGPT Pro用户开放，后续规划融合两种工作模式。
PagerDuty 的 Kafka 故障导致数千家公司无法收到报警
2025年8月28日，事件管理平台PagerDuty遭遇重大服务中断，超9小时服务降级。原因是新功能缺陷使Kafka集群使用量超系统容量，引发连锁反应。公司列出改进承诺，社区强调系统要有冗余备份。
DeepSeek、智谱被曝造芯，国产大模型绕开英伟达！
据路透社等爆料，DeepSeek与智谱AI正秘密自研定制化AI芯片，目标是摆脱对英伟达等的硬件依赖，构建自身算力生态。因算力账本和外部环境压力，两家公司选择研发面向推理场景的芯片。
具身智能的第四阶段：「造系统」？
进入2026年下半年，业内形成共识：具身智能竞争从单一模型比拼转向系统工程与产业基础设施角逐。鹿明机器人推出具身智能开发与验证平台Lumos Station Lite，提出“产业具身”理念，助力具身智能落地。