「性能问题」共找到 4823 篇相关文章
关于CUTLASS Grouped GEMM中Alignment参数的分析
文章围绕CUTLASS Grouped GEMM的Alignment参数展开。介绍其含义与自然对齐有关，既代表访问粒度也指明地址对齐要求。针对CUTLASS 2.x和3.x API分别阐述设置Alignment的方法及原理，还给出编译期推导代码示例。
超越DeepSeek-R1，数学形式化准确率飙升至84% | 字节&南大开源
字节跳动Seed团队与南京大学联合发布CriticLean框架，将数学自然语言到Lean 4代码的形式化准确率从38%提升至84%。该框架创新性地将评估模型置于核心，解决语义对齐等问题，还构建了相关基准测试和数据集。
7个月翻一番！AI agent能力飙升，METR报告揭示指数级进化规律
非营利研究机构METR报告显示，Agent能力每7个月翻一番，这在9项基准测试中得到验证，任务涉及编程、数学等领域，大模型正迈向高度自动化，且Agent性能提升快，未来处理复杂任务能力或更强。
腾讯混元A13B用130亿参数达到千亿级效果，Flash Attention作者点赞
腾讯混元A13B模型仅130亿激活参数，却能和千亿级大模型竞争，获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’，依托高质量预训练和结构化后训练，多方面表现突出且已全面开源。
为何我的 Docker 镜像如此庞大？使用“dive”进行深度剖析以找出臃肿之处
在AI项目里，Docker镜像可能臃肿庞大，影响开发与部署。本文以朴素BERT分类器镜像为例，指出未优化镜像会导致开发慢、CI/CD低效等问题，还介绍用dive工具剖析镜像，找出臃肿之处以优化。
OpenAI硬件陷“抄袭门”，商标/设计极其相似，官方火速删帖
才官宣1个月，OpenAI斥64亿美金收购的AI硬件公司IO，因商标、产品设计侵权等问题，被IYO告上法庭。IYO称OpenAI曾与其接触后拒绝合作，直接推出IO，定位产品功能几乎一致。目前OpenAI已删相关内容。
【博客转载】CUDA Constant Memory
文章介绍 CUDA 常量内存，它是设备上 64KB 被缓存的只读特殊内存空间。通过示例比较不同访问模式下常量内存和全局内存性能，指出块或 warp 一次访问时，常量内存快 10%；线程一次或伪随机访问时，慢很多。
搜索 ≠ 简单匹配！0代码实现语义级图文互搜
在非结构化数据爆发增长的当下，传统图文检索方式难以满足企业需求。本方案介绍借助阿里云 Milvus 实现高效多模态图文检索，覆盖多场景，有开箱即用、性能强等优势，还给出架构、部署、验证及清理资源的方法。
Andrej Karpathy 爆火演讲刷屏技术圈：AI 开启软件 3.0，重写一切的时代来了！
Andrej Karpathy 在旧金山 AI 创业学校演讲，指出 AI 开启软件 3.0 时代，自然语言成编程接口。软件经历 1.0 代码、2.0 神经网络权重，现进入 3.0 用提示词编程大模型阶段，还探讨大模型特性、应用及相关问题。
大模型进入研发体系后，我们看到了这些变化
InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师探讨大模型入研发体系的变化。指出其在提效、协作、分工上作用大，还分析了适用场景、工程师收益类型及核心竞争力等，也提及效率评估、代码生成等问题。