「模型成本」共找到 8388 篇相关文章
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
首次曝光！OpenAI新一代旗舰Astra换上“循环深度”推理架构：用计算深度换参数规模
9月2日消息，OpenAI将推出的旗舰模型Astra采用“循环深度”新技术，用较小模型实现庞大模型性能，降低成本。但该技术会让AI推理过程不可读，加重安全担忧，此前奥特曼已因Astra“能力过强”踩刹车。
冲上热搜！美团大模型，靠「快」火了
国内外开发者亲测，美团新开源的LongCat - Flash - Chat模型速度超快，推理速度超每秒100个token。它来自美团LongCat - Flash系列，官网可直接用。该模型架构创新，训练方法高效，还做了专属和系统级优化，跑起来又快又便宜。
OpenAI的开源，补全了亚马逊云科技模型生态的最后拼图
8月5日OpenAI上线两款开源模型，亚马逊云科技随即在旗下平台上线。此前微软借合作优势使Azure高速增长，如今OpenAI开源，亚马逊云科技模型生态更丰富，其产品受客户好评，增长势头难挡。
只因一个“:”，大模型全军覆没
一篇论文发现冒号等符号、“Thought process：”等语句能欺骗LLM，让虚假回答通过。实验表明所有测试模型都会触发假阳性响应。研究人员构建新“评委”模型Master - RM，可让假阳性率接近0%。
M2模型杀回Coding和Agent领域，MiniMax想要「普惠智能」
如今大模型竞争转向综合比拼，MiniMax 发布并开源 M2 模型，在权威测评跻身全球第一梯队。它定位轻量级，Coding 与 Agentic 能力强，性价比高，还升级 Agent 产品，以技术普惠策略让用户零成本体验。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒！
当全行业争论30B能否挑战万亿参数时，清华大学等联合研发的AgentCPM - Explore智能体模型用仅4B参数，在深度探索类任务有出色表现，且开源全流程配套工具，打破小模型性能局限。
英伟达叫板DeepSeek？怒投260亿美元，要打造最强开源模型
英伟达已成为人工智能时代基础设施的一部分，2023年11月推出首个Nemotron模型进入通用大模型领域。未来五年将投260亿美元构建开源模型，还发布了性能最强的开源模型Nemotron 3 Super。
黄仁勋CES最新演讲：Rubin 今年上市，计算能力是 Blackwell 5 倍、Cursor 彻底改变了英伟达的软件开发方式、开源模型落后先进模型约6个月
英伟达CEO黄仁勋在CES 2026演讲宣告AI转折，披露‘物理AI’路线图。提到开源模型突破但落后先进约6个月，还发布多款成果，如AlphaMayo、GROOT 1.6等，以及AI超算Vera Rubin，展现全栈式AI布局。