「GPU性能分析」共找到 3188 篇相关文章
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
苹果M5「夜袭」高通英特尔！AI算力狂飙400%，Pro三剑客火速上新
苹果悄无声息更新官网，三款核心产品14寸MacBook Pro、iPad Pro以及Vision Pro换上全新M5芯片。M5芯片性能提升显著，AI能力连翻数倍，加量不加价，在AI、图形处理等多方面有重大升级。
日志采集效能跃迁：iLogtail 到 LoongCollector 的全面升级
2025年，iLogtail正式升级为LoongCollector，实现日志采集和处理领域的新跨越。它架构升级，有多样Pipeline形态，性能提升，稳定性和隔离性增强，还具备网络探测、无缝迁移等优势，将带来可观测数据全栈采集新体验。
安谋科技Arm China“玲珑”VPU IP来了！瞄准这些应用场景
安谋科技Arm China推出面向AI应用的新一代VPU IP——“玲珑”V560/V760。该产品性能硬核，是“六边形战士”，集高性能、高鲁棒性等六大特性于一身，已完成首批客户授权，助力AI时代视频处理。
TPAMI | DC-SAM：打破SAM交互限制，基于循环一致性的图像与视频上下文分割方法
北京邮电大学联合南洋理工大学等机构发表论文，提出 DC - SAM 框架及 IC - VOS 基准。DC - SAM 含特征融合、正负双分支循环一致性提示生成等部分，实验在多基准测试获 SOTA 性能，为视觉大模型落地提供方案。
从「会表演」到「更会演」：KlingAvatar2.0让数字人拥有生动灵魂
近日快手可灵团队发布 KlingAvatar2.0 技术报告，数字人能‘生动表达’。它有三大创新技术，如时空级联框架等。实验显示其生动性大幅提升，性能超竞品，推动数字人在多领域规模化应用。
八年后，Meta教会了Transformer「显式思考」
10月20日Meta上线新论文《The Free Transformer》，作者François重写Transformer思维方式，造出Free Transformer新架构。它在解码器内加入随机潜在变量，让模型生成内容前先‘思考’，实验显示在多任务上性能显著提升。
英伟达正为中国开发新AI芯片，比H20更强
路透社消息称英伟达正为中国开发基于Blackwell架构的AI芯片B30A，性能超H20。虽特朗普称可能允许销售，但美监管批准未确定。英伟达想下月交付样品，中美贸易中芯片供应是焦点。
ShellAgent 2.0 体验：让前端消失，省掉 70% 开发资源
本文介绍Myshell ShellAgent 2.0测试情况，它仅用提示词就能生成Agent应用，摆脱前端构建流程，降低创建门槛。文中展示创建计算八字、分析钱包资产、拆解学习资料等应用案例，还能Remix他人发布的应用。
提示工程死亡？不，它刚刚重生为计算科学：一篇讲透Prompt设计的科学基础
大型语言模型在多步推理任务中受挫，因Transformer架构有计算深度限制。本文建立提示设计理论框架，揭示提示是信息选择器，优化提示可使推理性能提升超50%，将提示设计从试错艺术变为可计算科学。