多GPU性能」共找到 5650 篇相关文章

开源动态8

轻量级开源AI智能体框架!智能路由+上下文管理,前后端接口支持!

随着智能体系统成对话式AI新趋势,GitHub现轻量级高灵活性AI智能体协调框架Agent - Squad,它能实现智能体协作、路由和上下文共享,支持双语言,部署灵活,功能强大且安装友好。

开源星探
开源动态8

微软发布智能体 Web 操作系统!让 AI 成为真正“可控、协同、透明”的网页执行助手!

微软推出新一代智能体 Web 操作系统 Magentic - UI,它能自动浏览网页、处理数据等,具备智能体协同能力。其界面透明可控,功能丰富,安装使用友好,适用于种复杂场景。

开源星探
开源动态8

近5w颗星!一个能同时指挥个AI写代码的开源工具来了

现在写代码,很人想开个AI助手。Orca是支持AI Agent的编程开发环境,各Agent在独立git worktree里运行,互不干扰。它功能丰富,还支持系统安装。

GitHubStore
推荐文章8

企业级 Agent 智能体架构与选型指南 -- 来自1000+行业应用实践积累

本文基于超1000+智能体应用实践经验,介绍企业级Agent智能体架构。强调单智能体优先,介绍AgentScope支持的智能体模式,对比工作流与对话模式,给出架构选型指南,还提及Spring AI Alibaba Graph为智能体提供的能力。

阿里云开发者
产品应用8

GPU利用率不到15%,AI产业最大的浪费正在被这家公司改写|甲子光年

AI产业发展中算力成本高、利用率低问题凸显。趋动科技押注‘软件定义GPU’,试图把独占GPU变为共享算力池,其产品使客户GPU利用率平均提升约4倍,已服务超200家头部客户。

甲子光年
算法论文8

别再用单选评测骗自己了!Amazon新论文揭示了大模型在选题中的3种系统性偏差

Amazon新论文揭示大模型做选题有3种系统性偏差,如选择、数量、猜测偏差。还推出SATA - Bench评测,给出10个测量指标,提出Choice Funnel解码策略,能提升小模型选题正确率。

深度学习自然语言处理
算法论文7

1/3预算跑平 GPT-5?上海AI Lab「路由魔法」成本直降63%性能反涨 7%!

当前大模型需解决性能与效率平衡问题,GPT - 5用测试时路由技术初步平衡。Avengers - Pro测试时路由框架集成不同LLMs,通过嵌入、聚类、评分操作,调整权衡参数α,能依查询特征选模型,性能和效率优于单一模型。

CourseAI
开源动态7

如何重现 DeepSeek 推理性能突破

DeepSeek-V3 是热门开源大模型,采用大规模 MoE 架构,优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化,对齐其推理系统性能,分享关键技术、不足与思考,还提及对 Qwen3 模型的优化策略。

InfoQ
推荐文章8

性能计算群星闪耀时

文章介绍高性能计算(HPC)对大模型的重要性,回顾中国HPC发展历程,讲述清华高性能所郑纬民等学者贡献,还提及团队在大模型训练、推理、存储等方面成果,以及类脑计算等新探索。

AI科技评论
推荐文章7

通过查看GPU Assembly分析CUDA程序

文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例,对比普通和向量化版本,通过查看SASS代码,解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。

GiantPandaLLM