「AI推理成本」共找到 11594 篇相关文章
英伟达巧用8B模型秒掉GPT-5，开源了
英伟达携手港大开源Orchestrator-8B小模型，在HLE测试中分数超GPT - 5，成本低且速度快。它靠ToolOrchestra训练法，协调工具解题。此赛道已有多项研究，小模型实用优势明显。
开源音视频同步SOTA基座：极简的单流架构，2秒出片
AI视频生成迈入音视频同步新纪元，闭源巨头已展实力，而上海创智学院与Sand.ai联合发布的开源音视频生成基础模型daVinci - MagiHuman，以极简单流架构，2秒就能在1张H100显卡上生成精准音视频同步画面。
秋招超强助攻：零基础1小时上手GPT微调！全流程教程免费开源
新一年秋招季，岗位对AI能力要求提升。OpenAI发布新开源大模型GPT - OSS，博主Lorentz Yeung开源本地部署和微调训练GPT - OSS的教程，助零基础者上手，还介绍环境搭建、代码和训练前后效果对比。
Clawdbot 深度拆解： 7 个问题看懂它。
近日，AI技术圈焦点是开源项目Clawdbot（已改名Moltbot）。它是“全天候Jarvis”，GitHub星标超8万。本文深度拆解，介绍其概念、对比同类、分析独特魅力、创意场景、安装配置、运行原理及面临的挑战。
林俊旸离职后首度发声：万字复盘，大模型下一站「智能体式思考」
前阿里千问负责人林俊旸离职后发文，复盘大模型行业演进，指出 AI 大模型未来主线是智能体式思考。文中分析推理模型崛起的启示，探讨思考与指令融合难题，还阐述智能体式思维含义、强化学习基础设施挑战等。
烧3万亿美元实现ASI，把自己优化掉：这是硅谷CEO们的新赌注
硅谷大佬热衷预言AI接管公司，皮查伊称CEO工作AI易胜任，奥特曼想让OpenAI由AI掌管。但当下技术连自动售货机都难经营好，科技巨头豪掷3万亿，纳德拉却认为AI难掌管公司。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
谷歌Veo 3魔性切水果刷屏全网！逼真视频狂吸10万粉，全体网友颅内高潮
谷歌AI视频工具Veo 3生成的解压切水果视频在全网病毒式传播，TikTok号主粉丝量猛涨。今天凌晨谷歌官宣其正式上线，网友热情高涨。此外，它还能实现多种创意视频生成，一位制作人用它两天做出3000万播放量广告。
企业数据“LLM ready”与“小Palantir”们的崛起 ｜ AGIX PM Notes
文章指出当前 AI 仍处准备阶段，企业数据未就绪是落地大障碍，深层问题是流程 AI 原生化转型。还介绍本周市场、多家科技企业动态，以及巴菲特和芒格对 ETF 的看法及投资建议。
谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法，可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失，还能8倍加速计算。虽引发存储芯片巨头股价下跌，但目前只是实验室成果，仅解决推理阶段内存问题。