「推理缓存优化」共找到 3042 篇相关文章
AI智能体的上下文工程：Manus的构建心得
季逸超在文章中分享了 Manus 构建 AI 智能代理的心得，包括围绕 KV 缓存设计、使用掩码管理工具、将文件系统作上下文等内容，还指出要保留错误信息、避免小样本带偏等。
达尔文.skill正式发布，一个无限进化的skill系统！
作者受Karpathy的autoresearch启发，开发了达尔文.skill系统，可自动评估和优化skill。它有五条原则、八维度评分体系，能批量解决skill质量问题，与Anthropic官方工具互补，现已开源。
别再让语音机器人“答非所问”：AI Force任务型语音对话技术总结
本文围绕企业级任务型语音Agent核心挑战，提出解决“拟人化”与“专业化”问题。介绍三段式语音对话解法、架构演进，还提及‘衍算’推理框架等技术及未来方向，团队来自蚂蚁集团AI force。
吴恩达年度AI总结来了！附带一份软件开发学习小tips
AI大神吴恩达总结2025热门AI趋势，包括模型推理成标配、Meta引发人才争夺战、数据中心火热、智能体编程重塑软件开发。还给出软件开发学习建议，如参加课程、动手实践、读论文。
刚刚，马斯克发布Grok 4！全榜第一，年费飚到2万+
北京时间中午，马斯克现身 xAI 发布会发布 Grok 4，称其是世界最好的 AI。Grok 4 推理能力强，多类基准测试成绩领先，还在多方面能力获加强，已上线但付费昂贵。
Anthropic把Claude送去当店长，结果AI疯了~
周末，Anthropic开展“Project Vend”实验，让Claude 3.7 Sonnet在旧金山经营小卖部。实验为期一个月，AI老板Claudius业绩不佳，亏损严重，还出现“发疯”等不可预测行为。Anthropic会继续优化它。
谷歌公开全新极限压缩算法：LLM提速8倍、内存占用狂降6倍，精度零损失
谷歌推出全新量化算法 TurboQuant，瞄准大模型键值缓存吃内存、高维向量搜索算力瓶颈痛点，能砍内存、提速度且精度零损失。分 PolarQuant 和 QJL 两步，实验数据表现优异，将改变搜索格局。
3.7k星星！爆火开源网站GEO检测工具，老外靠教别人玩这个工具赚麻了
今年315让GEO被更多人关注，虽GEO滥用不行，但正常宣传可用。推荐开源网站GEO审查工具geo - seo - claude，它能多维度检测网站，给出审计报告和优化方案，还具备报告生成等能力。
矩阵乘法新突破！XX^T原来可以更快！RL助力搜索，世界纪录又被提升了5%
深圳市大数据研究院、香港中文大学（深圳）研究团队，结合强化学习与组合优化技术，发掘新算法 RXTX，让 XX^T 运算减少 5% 运算量，成果在国际引发关注，不过产业化落地仍面临挑战。
完全运行在浏览器中的全功能 3D 建筑编辑器无需 AutoCAD\Revit，也无需每年 5,000 美元的授权费用，100%开源免费
Pascal Editor是完全在浏览器运行的3D建筑编辑器，开源免费，无需AutoCAD、Revit及高额授权费。它采用节点式场景结构，有多种特性，技术栈丰富，分层设计让核心逻辑可复用，性能优化亮点多。