「高性能框架」共找到 4571 篇相关文章
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
Claude最强领域被GPT反超！GPT 5.5最难编程基准破0
编程领域曾由Claude引领，如今GPT 5.5在大模型解决率为0%的最难编程基准上实现突破。程序重建基准测试（ProgramBench）考验严苛，过往模型解决率为0，GPT 5.5高和超高推理模式成功破局，展现了不同解题风格。
「具身原生」元年！专访原力灵机汪天才，解析具身智能的「PyTorch时刻」
2月10日原力灵机发布开源具身原生框架Dexbotic 2.0，宣布与RLinf合作。合伙人汪天才将其与RLinf结合定义为具身智能的「PyTorch时刻」。还推出具身大模型DM0和应用量产工作流DFOL，推动具身智能进入「具身原生」时代。
文心X1.1三大能力狂飙，海内外实测还挺惊艳！
9日WAVE SUMMIT深度学习开发者2025大会上，文心大模型X1.1发布，事实性、指令遵循、智能体能力显著提升，多项测试表现佳。它能做到知识一致，精准遵循指令，智能体解决问题出色，代码、数学、多模态能力也有进化，得益于迭代式混合强化学习训练框架。
华人学生立大功！新王Mamba-3直击Transformer死穴，推理效率碾压7倍
新一代开源架构Mamba-3发布，由CMU普林斯顿原班人马打造，15亿参数性能比Transformer高4%，长序列任务端到端延迟仅为其七分之一。它采用新设计哲学，推理优先，有三大核心技术，还能与自注意力层混合提升检索能力。
英伟达挑战者，估值490亿
AI芯片初创公司Groq完成7.5亿美元融资，估值达69亿美元。它由前谷歌工程师创立，致力于打破英伟达垄断，产品能低成本维持AI性能，但在生态、大规模模型支持等方面与英伟达有差距，短期内难威胁其地位。
理解Ray Data分布式数据处理原理-源码分析
Ray Data是构建于Ray之上的分布式数据处理库，提供高性能且可扩展的API，可用于AI场景。文章从源码入手，分析其流式执行原理，包括读取数据源、构建数据处理、输出数据等环节，还介绍了LogicalPlan转PhysicalPlan及流式执行过程。
CIO 正在抛弃 AI 生码率：一场关于什么才算产研提效的实践复盘
阿里云CIO蒋林泉团队复盘AI时代产研组织效能提升实践。指出多数企业用AI停于工具替换，AI生码率等指标存误区。介绍团队从多方面重构产研组织，如左移质量测试等，还提出新岗位与框架，分享对工具、组织和人的见解。
英伟达新研究：小模型才是智能体的未来
英伟达最新论文指出，大模型在Agent任务中消耗大量计算资源，成本高、效率低、灵活性差，而小模型能在性能够用前提下让任务执行更经济灵活。小模型通过优化硬件资源和任务设计高效执行任务，但落地面临挑战。