「端侧计算」共找到 821 篇相关文章
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
让世界模型推理效率提升70倍：上海AI Lab用“恒算力”破解长时记忆与交互瓶颈
上海AI Lab联合多家机构开源Yume1.5，针对视频生成构建可交互“世界模型”的核心难题，提出时空信道联合建模（TSCM），实现近似恒定计算成本的全局记忆访问，展示了世界模型工程化落地的可行路径。
此芯科技亮相世界人工智能大会，以 AI 之力勾勒美好未来
2025年7月26日，世界人工智能大会在上海启幕，此芯科技携多款搭载此芯P1的展品亮相，展示端侧AI前沿成果。此芯P1芯片性能强劲，已产品化。展会展示三大应用场景，呈现其多场景应用能力。
突发，Claude刷新物理学世界纪录！单挑基于杨振宁理论9圈难题
本文报道Anthropic的Claude攻克理论物理前沿难题，成功算出平面N=4超杨-米尔斯理论六粒子振幅的九圈结果，打破人类此前保持的八圈纪录，计算成本仅几千美元，展示了大模型在科研领域的突破性能力。
纯CPU“踢开”GPU，中国超算九年后再登顶！
6月23日，国家超级计算深圳中心“灵晟”超算以2.19EFlops性能登顶全球超算TOP500榜单，这是世界首台超2EFlops的超算系统。它基于“灵鲲”平台，采用纯CPU设计，展现我国超算全栈自主可控能力。
GPU到底是如何工作的？这篇AI Infra入门全部告诉你
本文详细介绍了GPU工作原理及编程模式。它从图形渲染发展到GPGPU，NVIDIA推动其通用计算。还阐述了CPU/GPU异构架构，对比二者性能，介绍编译、加载、启动过程，以及GPU硬件架构、编程与执行模型，分析SIMD和SIMT。
成熟工程师1天完成调试，AI工程实践被MCP彻底颠覆？
去年11月Anthropic发布模型上下文协议（MCP），开发者社区迅速采用，AWS、GitHub、OpenAI等也已采用。MCP标准化数据和工具与AI代理的集成，简化定制化AI应用构建。采访华院计算杨小东，解析其架构、应用及商业价值。
求稳的安全IP，安谋科技如何守正出奇？｜甲子光年
12月24日，安谋科技推出新一代SPU IP——“山海” S30FP/S30P，给出面向高性能计算芯片的全栈安全解决方案。该方案从硬件IP层、软件中间件到云端服务构建一栈式安全防护体系，有五大核心亮点。
刚刚，面壁小钢炮开源进阶版「Her」，9B模型居然有了「活人感」
2月4日，面壁开源全双工全模态大模型MiniCPM - o 4.5，在多方面达SOTA水平。它能边看边听边说，实现自主交互。实测中表现如真人，其架构和机制有创新，还适合端侧部署，或开启人机交互新时代。
存储的超级周期，缺货潮将贯穿2026年？
近期存储市场火热，价格飞涨，下游厂商面临成本压力。缺货潮或贯穿2026年，因AI需求爆发，三大厂商减产DDR4等产能。其他厂商难补缺口，华邦虽有扩产计划但周期长。端侧AI发展对存储有新要求，华邦布局相关产品。