分层缓存」共找到 265 篇相关文章

推荐文章8

AI智能体的上下文工程:Manus的构建心得

季逸超在文章中分享了 Manus 构建 AI 智能代理的心得,包括围绕 KV 缓存设计、使用掩码管理工具、将文件系统作上下文等内容,还指出要保留错误信息、避免小样本带偏等。

AI工程化
8

谷歌公开全新极限压缩算法:LLM提速8倍、内存占用狂降6倍,精度零损失

谷歌推出全新量化算法 TurboQuant,瞄准大模型键值缓存吃内存、高维向量搜索算力瓶颈痛点,能砍内存、提速度且精度零损失。分 PolarQuant 和 QJL 两步,实验数据表现优异,将改变搜索格局。

AI寒武纪
开源动态7

完全运行在浏览器中的全功能 3D 建筑编辑器无需 AutoCAD\Revit,也无需每年 5,000 美元的授权费用,100%开源免费

Pascal Editor是完全在浏览器运行的3D建筑编辑器,开源免费,无需AutoCAD、Revit及高额授权费。它采用节点式场景结构,有多种特性,技术栈丰富,分层设计让核心逻辑可复用,性能优化亮点多。

GitHubStore
推荐文章7

一个任务50次调用,成本狂砍90%?Manus首次公开上下文工程秘诀,一堆反复重写换来的教训

Manus项目团队分享上下文工程秘诀。他们押注于此,使产品发布改进更快。还阐述围绕KV缓存设计、掩码非移除工具、用文件系统作上下文等原则,助构建AI Agent者少走弯路。

AI前线
开源动态7

最好的 DeepResearch 平替开源了

ROMA是元代理框架,以递归分层结构解决复杂问题,有并行问题解决、透明开发等优势。它通过计划 - 执行循环处理任务,介绍了安装选项、技术栈,还有预构建代理展示功能。

GitHubStore
新闻资讯8

加入Meta近一年,亚历山大王回应:超级智能之前,AI终局未定

亚历山大·王加入Meta近一年后携Muse Spark模型回归,回应诸多争议。他指出Llama 4发展不符要求,Meta缺超级智能信仰。介绍了Meta超级智能实验室架构原则,还谈到算力分层、模型福利等内容。

AIGC开放社区
产品应用7

优步凭借 CacheFront 的改进实现每秒 1.5 亿次的读取操作

优步工程师更新 CacheFront 架构,实现每秒 1.5 亿次读取操作且确保强一致性。解决了旧设计中陈旧数据读取问题,引入新协议和机制,弃用专用 API,还增强监控工具,提高缓存命中率。

InfoQ
算法论文8

只用2700万参数,这个推理模型超越了DeepSeek和Claude

Sapient Intelligence研究者受大脑机制启发提出分层推理模型(HRM),该模型仅2700万参数、1000个训练样本,就在复杂推理任务上超越DeepSeek和Claude等模型,还引入近似梯度等创新设计。

机器之心
推荐文章8

Harness不是目的,知识才是护城河 —— 一个AI工程交付团队的知识沉淀实践

本文指出构建Harness工作流非最终目的,私域和团队知识沉淀才是技术护城河。分享AI Team工程交付编排系统中知识分层架构设计、团队知识库共建共享、工作流成知识沉淀载体、突破人机交互瓶颈及落地经验与思考。

腾讯技术工程
产品应用7

Claude杀入全美教室:一周干49小时的老师,终于等来免费AI助教

7月14日,Anthropic推出Claude for Teachers,向全美K - 12教师免费开放高级能力与教学技能库,接入50州课标。它能完成备课对齐、差异化分层、数据分析等工作,不碰学生端,定位是帮老师减负。

新智元