「成本优化」共找到 2560 篇相关文章
重新思考 AI TCO：为何每 Token 成本才是唯一重要的指标
在生成式与代理式AI时代，传统数据中心转变为AI Token工厂，企业评估AI基础设施时不应只关注算力成本、每美元FLOPS，而应重视每Token成本，它决定AI规模化盈利，NVIDIA在该指标上表现出色。
性能最高提升7倍？探究大语言模型推理之缓存优化
文章探讨大语言模型推理缓存优化技术演进与未来展望，介绍了主流推理框架vLLM、SGLang，分析KV Cache、Paged Attention、Prefix Caching等技术的优化点，还提及LMCache、DeepSeek的缓存技术，最后提到MCP赋能可视化OLAP智能体应用。
【万字长文】大模型训练推理和性能优化算法总结和实践
本文总结大模型落地的训练、推理和性能优化算法与实践，介绍语言模型发展，对比BERT、GPT等训练方式，分析生成式大模型问题，还阐述数据处理、推理优化及训练调优等内容，并给出不同场景技术选型建议。
AIA | 西工大马启悦，高传强等：物理指导的激波抖振抑制翼型优化设计研究
激波抖振影响飞行品质、限制飞行包线。本文提出物理指导的气动优化设计框架，基于DDPG算法，优化RAE2822翼型激波位置与分离区范围，提升抖振起始边界，改善综合气动性能。
基于Agent的SGLang Diffusion Kernel优化实践：Qwen-Image、FLUX.2和视频模型
本文记录基于Agent完成Qwen-Image、FLUX.2、Wan和SANA Video优化的过程，包括定位问题、写Kernel及遇到的坑。介绍SGLang Diffusion Kernel结构，分析数值敏感原因，展示各模型优化实践、无收益实验及验证流程。
告别JSON冗余：TOON让Token成本降低30-60%
LLM交互用JSON有冗余，成本高、速度慢。TOON格式专为LLM优化，结合YAML和CSV特点，比JSON减少30 - 60%的token消耗，还介绍了特性、上手方法、集成实践和适用场景。
企业官网GEO优化实操：如何让AI主动推荐你的官网？
本文作者白杨SEO从2011年入行SEO，2024年起研究AI搜索优化。他指出当下AI平台引用来源变化大，企业官网成重要来源。作者从网站代码、站内内容、站外推广三方面，教大家做好官网GEO优化，让AI推荐官网。
Claude Sonnet 5：更强，但更贵，每任务成本反超Opus 4.8
Anthropic 发布的 Claude Sonnet 5 智能指数追平 GPT - 5.5，但每任务成本比 Opus 4.8 贵 15%。它在知识工作类任务表现佳，推出促销价，不过促销后成本待察。评估迁移时需算 token 消耗。
AST | 西工大马龙、邬晓敬等：几何特征知识驱动的代理优化方法
机器学习为气动外形设计提供新方法，但高效挖掘利用几何与气动数据知识是难题。本文提出气动监督自编码器架构，利用小样本气动数据监督学习几何特征，嵌入优化框架提升样本质量及优化效率，经翼型和机翼验证有效。
RAG性能优化：基于RAGFlow自定义解析工具实现文本结构化（含源码教学）
文章围绕RAG性能优化展开，指出RAGFlow框架中DeepDoc解析算法不足，介绍开源与商业化解析工具优劣势及API调用和本地部署特点，推荐TextIn xParse，给出RAGFlow+TextIn知识库构建方法，还探讨了RAG优化方案。