「成本性能平衡」共找到 3298 篇相关文章
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
世界模型有了开源基座Emu3.5！拿下多模态SOTA，性能超越Nano Banana
北京智源人工智能研究院的悟界·Emu3.5是最新最强的开源原生多模态世界模型，能处理图、文、视频任务，在多项权威基准上性能亮眼，还具备理解长时序等能力，背后有技术创新，且选择开源。
一个邪修方法，帮你把用Agent的钱省掉80%。
作者曾分享Minimax的Agent，因使用成本高遭读者反馈。现该工具推出Publish to Gallery & Remix功能，用户可复用项目，降低成本，还能形成集体智慧。不过产品和交互设计较粗糙。
调高一档推理强度，成本可能翻几倍：大模型思考原理讲清楚
文章详细讲解推理强度原理，指出其不改模型，只改草稿长度。还说明模型多思考能提高答题准确率的原因，剖析贵和慢的原因，介绍三种控制形态，并给出判断推理强度档位的框架。
缓存命中率99.93%！DeepSeek最适合的Harness来了，GitHub狂揽8.6万Star
DeepSeek官方版Harness未出，民间开源编程Agent「Pi」先火。它适配DeepSeek，让其缓存不命中率低至0.03%，调用成本大降。Composio测试显示Pi完成任务平均成本最低。同时，DeepSeek正组建团队做官方Harness。
vLLM Ascend超越MindIE？ 昇腾推理Qwen3与DeepSeek R1 Distill性能实测
国内开发者在昇腾NPU上进行大模型推理面临挑战，华为MindIE推理引擎使用门槛高。昇腾联合vLLM社区推出vLLM Ascend插件。本文用GPUStack平台实测其与MindIE性能差异，得出两者在不同场景各有优势的结论。
OnlyOffice 平替，用 Vue3 + Vite 做了个“本地 OnlyOffice”：接入成本低到离谱！！！
文章介绍 onlyoffice-web-local 项目，它是基于 OnlyOffice 的纯前端本地网页文档编辑器，无需服务器端处理，部署轻、接入快、更安全。阐述其功能、适用场景，给出开发部署及集成方案，可作 OnlyOffice 平替。
CapRL：用强化学习突破Image Captioning训练瓶颈，3B模型性能媲美72B
上海人工智能实验室联合团队发布 CapRL，首个将 DeepSeek - R1 强化学习策略用于 Image Captioning。CapRL - 3B 模型在图像描述任务媲美 Qwen2.5 - VL - 72B，已开源，团队持续迭代优化。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢，团队提前布局，自研框架，实现超180 tokens/s推理速度，还分享未来突破方向。
3天狂揽23.1k星！把代码库变成知识图谱，AI编程成本降低35%
CodeGraph是开源本地代码知识图谱工具，提前为项目建索引，组织代码信息，让Agent直接查询。能减少token消耗与工具调用、提高响应速度，数据本地保存，还具备多语言支持等特点。