「推理性能」共找到 3472 篇相关文章
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
亚马逊云科技大中华区总裁储瑞松：企业实现 Agentic AI 价值的关键在于三大技术准备
亚马逊云科技大中华区总裁储瑞松在峰会表示，正处 Agentic AI 爆发前夜。其爆发源于大模型能力发展、协议出现、推理成本降低等因素。企业实现其价值需做好三大技术准备，还推荐了 6 月 27 - 28 日的 AICon 北京站活动。
256块NPU训成8B视频模型、超越Sora等一众闭源！抖音内容技术团队开源ContentV
近日，抖音内容技术团队开源ContentV，这是面向视频生成任务的高效训练方案。用256块NPU约4周训成8B参数模型，在多评估维度效果与主流方案相近，还探索了有限算力下训练路径，现推理代码与权重已开放。
理解Ray Data分布式数据处理原理-源码分析
Ray Data是构建于Ray之上的分布式数据处理库，提供高性能且可扩展的API，可用于AI场景。文章从源码入手，分析其流式执行原理，包括读取数据源、构建数据处理、输出数据等环节，还介绍了LogicalPlan转PhysicalPlan及流式执行过程。
NUS Show Lab 寿政教授：打通自回归与离散扩散，打造下一代具身大模型底座｜ECCV 2026
本文整理自新加坡国立大学Show Lab负责人寿政教授在ECCV 2026的分享，团队研发融合自回归与离散扩散的Show-o/Show-2统一架构，解决多模态理解与生成融合痛点，延伸至具身智能领域，突破数据稀缺、推理延迟等核心瓶颈。
Python逆天改命！开源Hermes首次击败OpenAI Codex
纯Python写的开源项目Hermes Agent，在11项基准测试中以6:5战绩击败OpenAI用Rust写的Codex。它通过三大工程优化，将启动时间从701ms降至258ms。这表明在AI Agent领域，架构比语言性能更重要。
蚂蚁开源 x SGLang Meetup技术回放解读之基于CUTE DSL的通信计算重叠算子实践
文章是对蚂蚁开源x SGLang Meetup分享的回放解读，聚焦基于CuTe DSL的通信 - 计算重叠内核实践。探讨不同通信计算重叠方案，分析在Blackwell上做GEMM + AllReduce融合算子的优势，介绍multimem指令等，还提及接入模型执行路径和性能结果。
阿里通义开源GUI智能体SOTA：2B到235B端云协同重新定义移动端GUI智能体
阿里通义实验室开源MAI - UI，通过端云协同架构等解决GUI智能体部署难题。它全谱系模型设计应对硬件约束，自进化数据管线和在线强化学习提升性能，端云协同平衡隐私与效率，扩展动作空间打破局限，在多基准测试创SOTA。
从网页截图到精准复刻只需30秒：这个新模型刷新了我的认知
智谱AI发布GLM - 4.6V系列模型，是首个支持工具调用的视觉模型。作者对其进行7个场景测试，如识别鸟类、分析赶海地点等，展现出不错性能。该模型速度快、开源，有优势也有小问题，适合开发者和普通用户。
谷歌Nano Banana Pro上线，深度结合Gemini 3，这下生成世界了
谷歌最新图像生成模型Nano Banana Pro（Gemini 3 Pro Image）上线，结合Gemini 3 Pro强大推理与知识，在控制力、文字渲染和世界知识方面升级，能生成高分辨率、一致性强图像，还支持创意操控、多语言文本生成等，多产品将上线。