「成本管控」共找到 1739 篇相关文章
大模型推理加速全链路:内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。
Agent 基建不是设计出来的,是被 Kimi K3 和一堆应用公司卷出来的
文章以 Kimi K3 模型及相关 agent 产品为例,讲述 TiDB 作为基建服务商,满足 AI 团队需求形成 Agent Stack。还指出 Agent 时代基建难题、数据库使用变化,以及创业团队做 Agent 业务的三个判断。
黄仁勋倡议的开源联名信,Anthropic 为何不愿签名?
黄仁勋分享支持开放权重模型的联名信,NVIDIA、Google等公司联署,Anthropic缺席遭网友讨伐。Anthropic研究人员回应引争议,这场讨论或存在错位,分歧关键在于发布前评测能否支持模型权重长期外授。
从零开始玩转循环 (Getting started with loops)【译】
Claude Code团队将“循环”定义为AI智能体不断重复执行工作周期,直至满足预设停止条件。文章介绍了回合制、目标导向、基于时间和主动式四种循环类型、适用场景及控制token消耗方法,还给出保证代码质量的原则。
谷歌大佬盛赞Fable 5!23年前PC神作,40分钟塞进iPhone
谷歌DeepMind高管Ammaar Reshi用Claude Fable 5将2003年游戏《命令与征服:将军 零点时刻》原生编译到iOS,虽有内存等问题,但推动游戏保存流水线成型,即厂商开源+社区移植+AI编译。
年薪百万,在旧金山开始租不起房了
旧金山科技情侣合计年薪超36万美金,花三月看30套房,租不到月租5000以下一居室。OpenAI和Anthropic拟IPO,AI造富改写城市生存门槛,高薪者也感窘迫。
为什么你的 AI Coding 账单越涨越快?十个节约 Token 的工程办法。
文章指出今年大模型Token账单涨得快,尤其AI编程重度用户。从工程角度总结降低Token消耗的方法,如上下文清场、代码导航等,还分析AI Coding的Token变贵原因及各方法适用边界。
SIGCOMM 2026 | 从「人眼看视频」到「AI理解视频」:北大提出面向AI的实时通信框架Artic
AI 正从「文字聊天」走向「边看边聊」,传统实时视频通信难以满足需求。北大团队提出 Artic 框架,重构码率自适应等,实验显示其能显著提升准确率、降低延迟。
开会最怕那一声尖叫,被腾讯会议用声链干掉了
开会时多人用多台设备入会常出现啸叫、回声问题,以往解决方法成本高或体验差。腾讯会议‘声链’以纯软件方案解决此问题,让设备自由开麦,声音更自然稳定,体现技术价值。
留给人类数学家的悬赏不多了!谷歌DeepMind一口气解决9道埃尔德什问题
AI进军数学界速度惊人,谷歌DeepMind发布由Gemini驱动的AlphaProof Nexus框架,解决9个埃尔德什开放问题,还证明44个猜想、搞定代数几何难题、改进凸优化理论边界,推理成本低且代码开源。