「成本优化」共找到 2573 篇相关文章
作业帮基础观测能力之一监控体系实践
本文介绍作业帮监控体系实践。其监控体系随云原生成长，支持全集群监控。构建时选 Prometheus 采集、VictoriaMetrics 存储，还从多维度采集指标，用自研代理降成本、治理指标，让系统更贴合研发。
华为| 祭出FlashComm1，FlashComm2、FlashComm3，解决LLM推理通算瓶颈
在大模型推理面临通算难题背景下，华为数学家祭出FlashComm 1、2、3。如FlashComm 1优化AllReduce通信，提升推理性能；FlashComm 2重构计算流程，提升推理速度；FlashComm 3实现多流并行，激增模型吞吐。
估值1亿的"死了么"APP有多好抄？5分钟AI就能复刻，去年有人一下午做出原型
‘死了么’APP 爆火并更名 Demumu，虽开发成本低却估值达 1 亿。此前有数据分析师曾用 AI 5 分钟复刻其海外版。该 APP 由三名 95 后开发，现下载量猛增，还面临竞品挑战。
一个模型读懂所有医学数据，Hulu-Med探索医学大模型开源新范式 | 浙大x上交xUIUC
Hulu - Med是浙大、上交、UIUC等联合提出的通用医学视觉语言大模型，首次在单一模型统一理解医学多类数据。它开源透明，训练成本低，性能媲美GPT - 4.1，为医学AI带来新范式。
自媒体误读了 DeepSeek-OCR：一图胜千言
近期，DeepSeek-OCR引发关注，但很多媒体误读其为OCR工具，实际是视觉语言模型。它是为大文档等场景优化的视觉压缩与识别系统，架构新颖，训练讲究，效果出色，为行业带来新思路。
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。
Agent能自己“复盘”和“进化”，这个开源框架牛了！
文章介绍了自进化AI，其核心是执行、评估、进化的反馈循环，能自动修改Prompt和工作流。还讲解了SEW、TextGrad等优化器原理，并以SEW为例展示逻辑，最后推荐开源框架EvoAgentX。
腾讯开源智能体构建框架
腾讯开源智能体构建框架 Youtu-Agent，灵活高性能，验证性能出色，开源友好成本低。有自动智能体生成等亮点，适用于不同用户群体，涵盖研究、开发等场景，还介绍核心概念，附项目地址。
AI 基础设施缺失的一层：聚合代理流量
在 AI 融入应用热潮中，代理流量爆发成 AI 基础设施缺失层。传统设施难管理，致成本、安全等问题。Gartner 关注此差距，‘AI 网关’成新兴类别，它补充现有设施，助组织重获代理流量监督。
国产芯片比英伟达整体效率更高！？华为 CloudMatrix384 超节点首曝论文，跑 DeepSeek 效率超越英伟达
今年4月，网上曾争论华为芯片效率是否超国际主流。近日华为团队论文公开，阐述在CloudMatrix 384超节点部署DeepSeek大模型细节，性能指标超英伟达体系，还介绍架构、软件栈及适配优化方案。