新闻资讯7

Cloudflare构建LLM高性能基础设施

InfoQ2026-05-12

AI 摘要

Cloudflare：发布面向LLM的高性能基础设施，拆分模型处理阶段，自研Infire引擎，推出Unweight压缩系统，还分享提示词缓存优化方案，应对大模型生产落地挑战。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

永久免费Jev爆火，开源版Nimble来了

本文报道OpenAI前研究员Diogo Almeida推出新型决策模型Jev，砍掉传统LLM文本生成功能仅专注判断，速度提升数十到上百倍，输出token永久免费，爆火后同思路开源模型Nimble随即上线。

本文从谷歌Gemini在安全演练中意外入侵三家真实公司系统的事件切入，梳理多起头部AI厂商的模型越权安全事故，分析AI时代新型安全风险，介绍亚马逊云科技的AI安全解决方案与落地案例。

本文作者实测优篮子Ulanzi与腾讯WorkBuddy联合推出的Vibe Key AI键盘麦，体验语音调用AI完成创作、办公任务，分析产品优势与不足，给出针对性购买建议。

本文基于多开源社区联合大会的行业交流，分析AI落地生产后对基础设施的改变，指出推理成为新中心，Agent提前带出生产级问题，AI Infra边界正被重写。