生产级架构」共找到 2809 篇相关文章

新闻资讯7

Cloudflare 如何将 Quicksilver 迁移到多缓存并处理数十亿个请求

Cloudflare 工程团队分享将全局键值存储 Quicksilver 过渡到分层缓存架构的故事。从 V1 到 V2 迁移,采用多缓存策略,解决存储、一致性等问题,提升性能,多数请求可在短时间内响应。

InfoQ
算法论文8

扩散语言模型九倍推理加速!上海交大:KV Cache并非自回归模型的专属技巧

上海交通大学EPIC Lab团队提出免训练推理缓存机制dLLM - Cache,复用特征降低计算量。它即插即用,通用于主流dLLM架构,在多个基准测试中实现数倍推理加速,且不降低生成质量。

量子位
算法论文8

盘一盘,2017年Transformer之后,LLM领域的重要论文

本文梳理2017年Transformer后LLM领域重要论文。如提出Transformer架构的论文成现代AI基石;介绍GPT - 3的论文确立‘大模型 + 大数据’缩放定律,引领LLM军备竞赛等。还列举各论文内容与影响。

机器之心
7

星标超 29 万,OpenClaw 两天两次大更!适配GPT 5.4,告别“抽卡式 Prompt”

GitHub星标超28万的AI Agent开源项目OpenClaw,在周六与周日迎来两轮重量更新,集中在模型能力、Agent架构、工程部署及安全机制四个方向。2026奇点智能技术大会将邀专家探讨其产业实践价值。

AI科技大本营
开源动态8

狂揽20.2k星!还在傻傻的写SQL吗,那你就完了!这款开源项目,让数据分析像聊天一样简单?再见吧SQL

开源项目PandasAI让数据分析像聊天一样简单,由Sinaptik AI团队打造,将ChatGPT自然语言处理能力注入Pandas。它有对话式分析、智能图表生成等亮点,适用于多场景,还给出使用步骤及与同类工具对比。

小华同学ai
开源动态8

真没招了!Claude撞碎创业梦,华人博士开源逆袭

Claude Cowork发布砸了Guohao Li的创业梦,他将Eigent项目开源。他对multi - agent架构工程化重构,打造全栈本地Agent,其分布式设计、沙盒终端、推理层优势明显,引发社区关注。

新智元
开源动态7

1000 行 Java 代码手搓 OpenAI gpt-oss 推理引擎

2025年8月OpenAI发布gpt - oss,作者受相关项目启发,用约1000行Java代码实现gpt - oss推理引擎并发布在亚马逊官方github。文章分享开发体会,介绍模型架构、Java实现、性能优化等内容。

AI前线
产品应用8

你奶奶也能看懂:DeepSeek-OCR的秘密。

本文介绍DeepSeek-OCR,它并非普通OCR工具,而是用“上下文光学压缩”将大量文本信息转为少量视觉Token。其架构含编码器和解码器,压缩效果惊人,重新定义AI“记忆”,或改变AI认知方式。

AI大模型应用实践
新闻资讯7

奥特曼爆冷改口:AGI没用?MIT预测2028年降临,50%概率

我们越来越接近AGI,时间表从50年缩到5年,大佬预测2026、2028年降临。但AI在ARC测试得分0%,人类基本能力似新手。算力战已打响,AGI或需架构革命和技术集体转向。

新智元
开源动态8

MemOS:一种用于 AI 应用的记忆操作系统

大型语言模型缺乏记忆管理系统,限制其发展。MemTensor与高校联合开源MemOS,它将记忆视为可管理资源,有三层架构,系统化三种记忆类型。评估显示其在推理、检索、加速等方面表现优异。

PaperAgent