「性能降智」共找到 1952 篇相关文章
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
苹果M5「夜袭」高通英特尔！AI算力狂飙400%，Pro三剑客火速上新
苹果悄无声息更新官网，三款核心产品14寸MacBook Pro、iPad Pro以及Vision Pro换上全新M5芯片。M5芯片性能提升显著，AI能力连翻数倍，加量不加价，在AI、图形处理等多方面有重大升级。
CUDA-MODE第77课课程笔记：用于GPU kernels的DSL
该课程笔记由Tri Dao介绍GPU kernel开发的DSL生态，涵盖PyTorch、Triton、Cute - DSL等。提出计算效率评估公式，对比不同DSL在Softmax、GEMM等操作的性能。还提及其他DSL工具与Triton扩展项目，并给出使用建议。
日志采集效能跃迁：iLogtail 到 LoongCollector 的全面升级
2025年，iLogtail正式升级为LoongCollector，实现日志采集和处理领域的新跨越。它架构升级，有多样Pipeline形态，性能提升，稳定性和隔离性增强，还具备网络探测、无缝迁移等优势，将带来可观测数据全栈采集新体验。
安谋科技Arm China“玲珑”VPU IP来了！瞄准这些应用场景
安谋科技Arm China推出面向AI应用的新一代VPU IP——“玲珑”V560/V760。该产品性能硬核，是“六边形战士”，集高性能、高鲁棒性等六大特性于一身，已完成首批客户授权，助力AI时代视频处理。
TPAMI | DC-SAM：打破SAM交互限制，基于循环一致性的图像与视频上下文分割方法
北京邮电大学联合南洋理工大学等机构发表论文，提出 DC - SAM 框架及 IC - VOS 基准。DC - SAM 含特征融合、正负双分支循环一致性提示生成等部分，实验在多基准测试获 SOTA 性能，为视觉大模型落地提供方案。
从「会表演」到「更会演」：KlingAvatar2.0让数字人拥有生动灵魂
近日快手可灵团队发布 KlingAvatar2.0 技术报告，数字人能‘生动表达’。它有三大创新技术，如时空级联框架等。实验显示其生动性大幅提升，性能超竞品，推动数字人在多领域规模化应用。
八年后，Meta教会了Transformer「显式思考」
10月20日Meta上线新论文《The Free Transformer》，作者François重写Transformer思维方式，造出Free Transformer新架构。它在解码器内加入随机潜在变量，让模型生成内容前先‘思考’，实验显示在多任务上性能显著提升。
马斯克开源新模型：能实时抓取社交平台数据，20万块H100训练
马斯克旗下xAI开源去年最佳模型Grok - 2.5，6个月内还将开源旗舰模型Grok 3。Grok - 2.5可实时抓取社交平台X数据，用超20万块H100训练，性能超GPT - 4o等，应用场景广泛。
英伟达正为中国开发新AI芯片，比H20更强
路透社消息称英伟达正为中国开发基于Blackwell架构的AI芯片B30A，性能超H20。虽特朗普称可能允许销售，但美监管批准未确定。英伟达想下月交付样品，中美贸易中芯片供应是焦点。