「性能成本平衡」共找到 3412 篇相关文章
调高一档推理强度，成本可能翻几倍：大模型思考原理讲清楚
文章详细讲解推理强度原理，指出其不改模型，只改草稿长度。还说明模型多思考能提高答题准确率的原因，剖析贵和慢的原因，介绍三种控制形态，并给出判断推理强度档位的框架。
缓存命中率99.93%！DeepSeek最适合的Harness来了，GitHub狂揽8.6万Star
DeepSeek官方版Harness未出，民间开源编程Agent「Pi」先火。它适配DeepSeek，让其缓存不命中率低至0.03%，调用成本大降。Composio测试显示Pi完成任务平均成本最低。同时，DeepSeek正组建团队做官方Harness。
vLLM Ascend超越MindIE？ 昇腾推理Qwen3与DeepSeek R1 Distill性能实测
国内开发者在昇腾NPU上进行大模型推理面临挑战，华为MindIE推理引擎使用门槛高。昇腾联合vLLM社区推出vLLM Ascend插件。本文用GPUStack平台实测其与MindIE性能差异，得出两者在不同场景各有优势的结论。
OnlyOffice 平替，用 Vue3 + Vite 做了个“本地 OnlyOffice”：接入成本低到离谱！！！
文章介绍 onlyoffice-web-local 项目，它是基于 OnlyOffice 的纯前端本地网页文档编辑器，无需服务器端处理，部署轻、接入快、更安全。阐述其功能、适用场景，给出开发部署及集成方案，可作 OnlyOffice 平替。
CapRL：用强化学习突破Image Captioning训练瓶颈，3B模型性能媲美72B
上海人工智能实验室联合团队发布 CapRL，首个将 DeepSeek - R1 强化学习策略用于 Image Captioning。CapRL - 3B 模型在图像描述任务媲美 Qwen2.5 - VL - 72B，已开源，团队持续迭代优化。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢，团队提前布局，自研框架，实现超180 tokens/s推理速度，还分享未来突破方向。
3天狂揽23.1k星！把代码库变成知识图谱，AI编程成本降低35%
CodeGraph是开源本地代码知识图谱工具，提前为项目建索引，组织代码信息，让Agent直接查询。能减少token消耗与工具调用、提高响应速度，数据本地保存，还具备多语言支持等特点。
你永远叫不醒装睡的大模型！多轮对话全军覆没，性能暴跌39%
研究人员进行超20万次模拟实验，耗资5000美元，评估大模型在多轮对话中的表现。结果显示，大模型在多轮对话中性能明显低于单轮对话，平均下降39%，还出现“对话迷失”现象。
一场文心大模型的「AI马拉松」
2025 年模型能力至关重要，百度在基础模型研发持续投入。百度 AI Day 上，吴甜解读文心新模型技术，文心 X1 Turbo 推理强、成本低。百度技术体系完备，未来看好多模态与智能体，降成本促应用生态发展。
AI 太烧钱！微软选择「倒戈」DeepSeek
微软宣布Copilot Cowork全球上线并引入按使用量计费机制，还评估引入DeepSeek V4。Agent普及使AI成本问题凸显，微软进行系统性重构，构建质量保障体系，成本工程化能力成竞争新焦点。