「多GPU性能」共找到 5701 篇相关文章
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
破解遥感目标的形状与尺度难题，PKINet二代推理提速近4倍！
PKINet - v2是改进的遥感目标检测模型，能处理复杂形状和尺度变化问题。它在PKINet基础上升级，统一条带与方形卷积，部署时折叠为单大核。在多数据集上精度和速度提升，可服务多领域，但对特殊目标仍有检测问题。
昨天夸国产大模型争气，今天Vidu Q3就霸榜了
国产视频大模型Vidu Q3在国际权威AI基准测试机构Artificial Analysis的最新榜单里，于Video Arena冲到全球第二、国产第一。它是全球首个支持16秒音视频直出模型，声画同出、高清直出，还有镜头控制、多语言文字渲染等优势。
Container Use：一种用于独立的并行编码代理的新工具
Dagger团队发布开源工具Container Use，为AI编码代理提供容器化沙箱和Git工作树，实现无冲突并行工作流。它能创建隔离开发环境，让开发者在同一代码库安全运行多代理。不过该工具尚处早期，有不足。此外还介绍了其他类似工具。
Claude Fable 5.1 发布：缓存读降价 75%，但实际更贵了
Anthropic 发布 Claude Fable 5.1 和 Mythos 5.1。Fable 5.1 性能全面上涨，但出现价格悖论，缓存读降价 75% 实际更贵。在 Agent 类任务与 Opus 5 基本持平，推出 EFS 应对数据留存争议，还有多项科研演示。
全球首款120通道PCIe5交换芯片面世，为国产AI基础设施赋能
随着AI算力需求增长，芯动科技推出全球领先的104/120通道PCIe Gen5交换芯片。该芯片功能及性能全面对标国际行业龙头，可适配全场景应用，其落地标志国产高端PCIe交换芯片实现关键跨越。
硬刚黄仁勋！AMD祭出「千倍算力大杀器」，「反黄联盟」崛起
CES现场，苏姿丰投下震撼弹：四年内AI算力将提升1000倍！ 面对英伟达的封锁，AMD不再隐忍，直接祭出Helios「太阳神」机架与MI455X芯片，以单代性能暴涨10倍的「暴力美学」正面硬刚。
超越英伟达Describe Anything！中科院 & 字节联合提出「GAR」，为DeepSeek-OCR添砖加瓦
中科院与字节联合提出「GAR」，为构建自然图像的Dense Caption提供新思路。GAR具备精准描述、关系建模和组合推理能力，通过引入新组件，兼顾细粒度与全局上下文，在多测试集表现优异，且代码等已开源。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
国产黑马自优化「超级大脑」，全闭环Agent杀疯！一站式AI原生基建来了
AI加速落地，行业需可持续进化系统框架。清华系中数睿智将全新框架集成到语思智能平台，其5D - RAG框架破传统RAG痛点，且在多领域落地，为产业智能升级提供路径。