GPU调度」共找到 539 篇相关文章

开源动态8

openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%

传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。

机器之心
开源动态7

DeepSeek推理再提速80%,V4正式版定档7月中旬

DeepSeek两天前开源DSpark推理加速框架,已在V4预览版在线服务跑真实流量,使生成速度提升60% - 85%。DSpark化解推测解码问题,在多模型超Eagle3和DFlash。V4正式版7月中旬上线,将引入峰谷定价。

AIGC开放社区
新闻资讯7

AI 太烧钱!微软选择「倒戈」DeepSeek

微软宣布Copilot Cowork全球上线并引入按使用量计费机制,还评估引入DeepSeek V4。Agent普及使AI成本问题凸显,微软进行系统性重构,构建质量保障体系,成本工程化能力成竞争新焦点。

AI科技评论
开源动态8

5.2K Star!离线也能翻译,零网络高隐私,40+语言的纯本地翻译神器!

日常在线翻译服务有隐私、离线使用等问题,Argos Translate是100%本地运行的离线翻译方案,免费、隐私安全,支持40多种语言,具备多模态接口、GPU加速等功能,适合多种场景。

开源星探
新闻资讯8

奥特曼豪赌万亿算力,OpenAI估值万亿美元 | 新智元ASI产业图谱10月号

新智元更新ASI产业图谱十月号,聚焦前沿模型、开源模型及世界模型与具身智能。介绍了模型排名情况,指出OpenAI现‘算力饥渴’,还提及国产模型、应用突破,强调算力将成AI竞争关键。

新智元
产品应用8

浙大校友打造AI代码测试神器,零代码零bug,30分钟创建网站

浙大校友打造的智能测试平台TestSprite 2.0,零代码零bug,30分钟创建网站,能让AI写代码准确率从42%跃升至93%,还可自动生成测试报告、调试修复错误,全程无需人工干预。

量子位
推荐文章7

【CUDA 博客】使用PTX指令更高效地加载和存储矩阵

文章围绕使用PTX指令高效加载和存储矩阵展开,介绍`ldmatrix`和`stmatrix`指令格式、适用GPU版本、地址计算逻辑等,给出不同矩阵数量的实现代码示例,助读者理解和应用。

GiantPandaLLM
推荐文章7

【CUDA博客】关于TensorCore和Inline PTX Assembly的一个超简短笔记

文章围绕TensorCore和Inline PTX Assembly展开,介绍利用PTX指令发挥TensorCore潜力。讲述矩阵乘法和累加操作,给出半精度及替代浮点指令形式,有代码示例并分析,还提到不同数据类型用法及SASS指令。

GiantPandaLLM
产品应用8

世界模型的DeepSeek时刻!魔芯Flash World Model降本70%,跑出50FPS实时交互

魔芯科技发布全球首个超高帧率交互式世界模型 MoWorld,无需高端 GPU,实现影视级画质、50 FPS 实时交互,降本 70%。其技术架构先进,产业化路径清晰,获过亿美元融资。

机器之心
算法论文8

告别多奖励跷跷板:Flow-OPD将多教师OPD带入图像生成

中国科学技术大学等机构团队提出Flow - OPD,这是首个将OPD引入流匹配模型的统一多任务后训练框架。它解决了流匹配模型后训练对齐中多任务的梯度冲突等问题,效果良好,未来有多个拓展方向。

机器之心