搜索：推理缓存优化

「推理缓存优化」共找到 3050 篇相关文章

Claude悄悄更新了Skills生成器，这绝对是一次史诗级升级。

Anthropic的Claude悄悄更新了Skills生成器Skill - creator，此次是史诗级升级，新增评估系统、基准测试、多代理并行测试、描述调优等4个全新能力，还演示了其使用方法和效果，建议更新并优化评估所有Skills。

Gemini 3 Flash速度快3倍且智力超Pro，但没人明白其更「聪明」的原因。它打破「参数即正义」逻辑，在多项测试领先。谷歌或靠TPU、算法、数据优化，还可能用了Titans架构，有重大战略意义。

北京智源研究院推出多模态世界模型Emu3.5，能原生预测视觉和语言下一状态。用超10万亿token数据预训练，后经强化学习训练。团队提出DiDA提升推理效率，其性能媲美Nano Banana，项目已开源。

行业首个具备“高刷”视频理解能力的多模态模型MiniCPM-V 4.5技术报告发布，提出三项关键技术，使模型在多任务达同级SOTA，8B参数规模超72B模型，推理快，开源后获社区好评。

多模态大语言模型“始终思考”模式有缺陷，腾讯混元团队与中科院自动化所联合提出R - 4B，通过双模式退火训练和双模式策略优化实现自动思考，在多评测中达SoTA，省资源且效果好。

多邻国在《每位工程师都该了解的 FinOps》中分享实践经验，将财务意识融入工程流程，用成本可视化机制让开发者了解成本影响，采用相关指标平衡创新与效率，借助工具优化成本，行业正从‘削减成本’转向‘数据驱动责任制’。

iPhone 17 Pro竟能跑8B大模型，如Qwen3 - 8B，推理较流畅。作者换机一是因eSIM，二为拍视频。其认为AI普及需端侧落地，此机芯片性能是好信号，盼出优质iOS客户端。

上个月开源的多模态模型 MiniCPM-V 4.5 广受好评，今日其技术报告出炉。报告从架构、数据和训练三方面探索高效路径，提出三大技术，使模型在多任务上突破，小参数规模下性能和推理速度佳。

本周五，Anthropic 技术团队成员 Thariq Shihipar 介绍新一代大语言模型工程趋势变化。Anthropic 发现旧提示词工程范式在新一代强推理模型发布后或过时，新的 Claude.md 应精简，大砍系统提示词后可把特定任务上下文交给 Skill。

浙江水利水电学院董慧贞团队提出YOLOv8 - SST算法，针对水面小目标检测的噪声干扰、定位不准、泛化能力弱三大痛点分别改进。经实验，该算法提升了检测精度，推理速度也能满足实时需求，还给出了实战代码。