「成本优化」共找到 2666 篇相关文章
性能真的不重要了吗？Jeff Dean给出反常答案
Google传奇工程师Jeff Dean更新文档《Performance Hints》，指出性能不是最后调出来的，而是写代码初始就注定的。很多人因对‘慢’无感、忽视性能，导致代码低效，顶级工程师则有‘物理地图’，能避开高成本路径。
告别微调！斯坦福提出Agentic上下文工程
当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
小米的中国芯，与雷军没说的“四个秘密”
本文围绕小米玄戒芯片展开，介绍其推出背景、工艺选择、研发成本及应用前景。指出华为、OPPO调整业务给小米带来契机，3nm工艺因品牌与成本平衡成首选，还分析了自研成本和知识产权等挑战。
基于一个MXFP8量化Kernel谈一谈如何在B200上实现高性能的Memory Bound Kernel
作者向SGLang社区提交基于CUTLASS的MXFP8 Blockscaled Grouped GEMM实现，其中包含量化Kernel。文章关注此Kernel，介绍在B200上实现高性能Memory Bound Kernel的优化技术，如整体设计、向量化与合并访问、Occupancy优化、TMA利用等。
明星AI编码助手涨价10倍惹怒开发者！CEO 回应：有人花千元薅了我们10多万，不挣钱不可持续
10月16日，AI代码助手Augment Code更新定价模式，按AI使用量计费，用户称成本涨超10倍。CEO称原模式不可持续，举例有用户带来高额成本。行业内多家公司也调整定价，反映AI编码助手成本和定价难题。
算力成本大降！马尔可夫思考机来了，LLM推理成本直接降为线性
用强化学习让LLM具备推理能力耗费颇高，计算量会二次级增长。Mila和微软研究院等团队提出马尔可夫式思考机，重构强化学习形式，让计算量呈线性，实验效果显著，还能与先进模型兼容。
苹果App Store榜单优化重要性，榜单优化的主要方式（进阶篇三）
流量探涨，ASO进阶篇，增长人的必备效率手册，带你升级为应用商店推广高手ASO进阶篇知识分为四章，今天更新第
海外chatgpt/gemini的SEO/GEO优化建议
Similarweb 1 月 2 日发布 AI 全球趋势报告，复盘多赛道流量变化。通用 AI 市场竞争激烈，ChatGPT 流量降 22%，Gemini 增 49%；垂直领域头部效应明显。还给出 SEO 和 GEO 优化建议。