分层缓存」共找到 266 篇相关文章

推荐文章8

OpenAI: 构建 AI 智能体实用指南

OpenAI发布的《构建AI智能体实用指南》,阐述智能体定义、适用场景,介绍构建的核心组件、架构编排,强调安全保障,指出构建需多方要素配合,未来聚焦智能体生态系统。

宝玉AI
推荐文章7

同一模型便宜50%,API Hub靠什么赚钱?

文章探讨大模型API Hub低价卖Token现象,指出低价出售的常是闲置算力等。分析厂商不官网降价原因,介绍第三方低价来源及Hub盈利途径,给出判断低价Hub能否用的检查清单。

AI Reading Hub
新闻资讯7

都标5美元,账单差三成!OpenAI高管:token从来没法直接比价

OpenAI Codex负责人Tibo指出,不同模型对同一段文字切分的token数不同,即便单token价格相同,最终账单也可能差异很大。他还提到,token无统一计量标准,跨厂商和新旧模型计数都难通用,真正重要的是每次成功结果的成本。

新智元
开源动态8

openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%

传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。

机器之心
产品应用7

我的网站被攻击了48个小时,Claude Fable 5替我防下了这一切。

作者分享网站AIHOT被‘反AI小队’攻击48小时的经历。Claude Fable 5分析出攻击源于服务器共享项目无防护,还发现安全漏洞。在后续攻击中,它多举措防御,展现强大性能。

数字生命卡兹克
新闻资讯7

GitHub Star明码标价5毛/颗,AI项目刷假星最猛

卡内基梅隆大学研究发现,GitHub约600万颗假星,18617个仓库涉假,AI/LLM项目是重灾区。造假产业化,有分层定价、售后保障。买星为融资,形成恶性闭环,判断项目好坏还得看硬指标。

量子位
新闻资讯7

谷歌TPU能撼动英伟达吗?前TPU工程师首次揭秘

在AI算力争霸时代,英伟达GPU市值狂飙,但蛋糕正被分食。前谷歌TPU工程师Henry揭秘TPU,从架构、产能、软件等维度分析其优缺点,指出在特定条件下TPU可挑战GPU,未来芯片市场将百花齐放。

芯师爷
新闻资讯8

统计学最高荣誉回归华人!苏炜杰:AI需要一门新的数学语言

2026年,宾夕法尼亚大学苏炜杰教授获统计学界“诺贝尔奖”考普斯会长奖。他认为AI时代统计学会更重要,还提出AI需新数学语言,访谈中分享诸多对AI的思考与见解。

量子位
产品应用7

将文章、故事变成漫画脚本提示词参考

文章给出将文章、故事变成漫画脚本的提示词参考,包含生成脚本和画图示例对话,从视觉风格、封面设计、布局、叙事结构、对话与文字设计等方面提出详细要求,为漫画脚本创作提供指引。

宝玉AI
开源动态7

当 Kafka 架构显露“疲态”:共享存储领域正迎来创新变革

沃尔玛开发者 Ankur Ranjan 与 Sai Vineel Thamishetty 长期关注 Apache Kafka 与流处理系统。文章指出 Kafka 架构现局限,介绍下一代开源项目 AutoMQ 借助云原生设计,解决其成本、扩展性与运维痛点,为实时数据流架构提供新视角。

InfoQ