推荐文章7

探究大语言模型推理之缓存优化

阿里云开发者2025-07-04

AI 摘要

文章探究大语言模型推理缓存优化技术，介绍主流推理框架vLLM、SGLang的优化方法，如PagedAttention、RadixAttention等，还提及LMCache、DeepSeek的缓存技术，最后介绍MCP赋能可视化OLAP智能体应用。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

千问推电商Agent 开店成本大降

本文报道千问办公推出独立第三方电商Agent产品千问办公电商版，接入多平台主流电商工具，可帮商家实现跨电商平台经营管理，大幅降低开店试错成本，目前已面向商家开放邀测。

本文介绍苹果基础大模型团队与杜克大学联合提出的LensVLM方案，针对长上下文压缩易丢失关键信息的痛点，提出将长文本压缩为图像、模型按需展开细节阅读的新思路，相关研究已被NeurIPS 2026接收，公开了模型、代码与可体验Demo。

本文为王博在《AI原生软件研发成熟度模型AISMM 2026》白皮书发布之际撰写，探讨AI Agent介入后软件形态、研发流程的变革，提出柔性软件概念与传统软件柔性化路径，为企业AI原生研发提供参考。

本文作者实测体验阶跃终端推出的首款大模型原生Agent手机STEPX Neo，介绍了产品设计、原生Agent系统能力、创客开发生态与系统级安全方案，公布了产品定价与用户福利。