「成本优化」共找到 2573 篇相关文章
警惕！大模型成本倒挂：你正在为模型的多余「思考」买单
一项来自多所高校和微软研究院的研究揭示AI模型价格倒挂现象，低定价模型可能产生更高实际开销。研究聚焦8个前沿推理模型和9个主流数据集，指出推理token是成本倒挂主因，且实际开销难以预测。
别再手动百度了！让 AI 帮你“开挂”搜全网，效率 x10
随着DeepSearch问世，搜索模式正从传统网络搜索向智能体搜索转变。文章拆解Search Agent核心模块，围绕制定任务、搜索、优化、应用和评估分析，介绍各模块特点、架构及优化方向等。
写代码从来不是瓶颈
Pedro Tavares认为软件开发瓶颈并非写代码，而是代码审查、知识传递等“人类开销”。LLM让写代码变容易，但理解、测试代码成本更高，未解决根本问题，团队理解代码成本才是瓶颈。
北大、蚂蚁三个维度解构高效隐私保护机器学习：前沿进展+发展方向
北大李萌课题组与蚂蚁集团研究者共同完成综述，从协议、模型和系统三个维度梳理隐私保护机器学习（PPML）领域，指出当前痛点，给出优化策略，还提出跨层级协同优化方向。
英伟达发布 Jet-Nemotron 系列小模型，理论最大加速比 56 倍
英伟达发布 Jet - Nemotron 系列小模型，在多项基准测试中表现出色，实现高吞吐量加速和高准确率。其训练采用 PostNAS 方案，对既有模型针对性优化，展示了在小模型优化上的可行技术路径。
RAG效果不佳？先别急着微调模型，这几个关键节点才是优化重点
文章深入探讨RAG技术实现与优化，指出其在AI应用开发中常被当黑盒，从文档分块、索引增强、编码、混合检索到重排序等关键环节解析，强调结合场景调优以提升召回与精确率。
无需CUDA代码给H100加速33%-50%，Flash Attention作者新作火了
Flash Attention、Mamba作者之一Tri Dao与普林斯顿博士生提出QuACK库，用Python写，无需CUDA C++。在H100上比优化库快33%-50%，吸引英伟达、PyTorch团队关注。还给出优化torch.compile建议。
一个邪修方法，帮你把用Agent的钱省掉80%。
作者曾分享Minimax的Agent，因使用成本高遭读者反馈。现该工具推出Publish to Gallery & Remix功能，用户可复用项目，降低成本，还能形成集体智慧。不过产品和交互设计较粗糙。
调高一档推理强度，成本可能翻几倍：大模型思考原理讲清楚
文章详细讲解推理强度原理，指出其不改模型，只改草稿长度。还说明模型多思考能提高答题准确率的原因，剖析贵和慢的原因，介绍三种控制形态，并给出判断推理强度档位的框架。
全球首个！国产AI开源系统一周狂改百款软件，全程0人干预
中国正从「制造大国」迈向「智造强国」，国产工业软件面临性能瓶颈。面壁智能联合OpenBMB开源全球首个Stencil优化AI系统ForgeStencil，1周自动优化100+软件，全程0人干预，提升研发效率，切中制造业升级诉求。