「内存带宽」共找到 246 篇相关文章
nndeploy：一款基于可视化工作流的AI部署工具
nndeploy是简单易用且高性能的AI部署框架，可将推理优化转化为可视化工作流，无需前端技术栈。它还提供端侧完整AI部署方案，有多端推理等功能，介绍了使用方法与技术原理。
江波龙在骁龙8上跑通30B模型，存储的角色变了｜甲子光年
本文报道江波龙携手高通，在2026骁龙峰会上基于第六代骁龙8超级至尊版移动平台，跑通端侧30B-MoE大模型本地推理，探讨存储行业转型AI技术周期的产业逻辑。
万万没想到，这家央企竟让香农和图灵又“握了一次手”
中国电信人工智能研究院研发布局的智传网（AI Flow），让信息技术和通信技术融合。在WAIC中，李学龙提出智传网三律，即信容律、同源律和集成律，打破传递智能的‘壁’，为数字世界带来深远影响。
还在花钱转语音？10,000+ star 开源「ebook2audiobook」白嫖1107种语言！免费文字秒变多语言音频！
`ebook2audiobook` 是由 Drew Thomasson 主导、13k+ Stars 的开源工具，能将电子书无缝转换为有声书，支持 1107+ 语言，有章节拆分、多 TTS 引擎支持等功能，低门槛部署，适合多场景。
微软 CTO 在 Rust Nation UK 大会上详解成功经验、挑战及对 Rust 编程语言的承诺
微软Azure首席技术官Mark Russinovich在Rust Nation UK大会探讨推动Rust采用的因素，展示微软产品中Rust应用成果，介绍用生成式AI加速C/C++向Rust迁移的努力，还提及开发者反馈及微软对Rust的承诺。
仅 3MB 大小，终端极速预览 word！
开发者等常需在服务器或命令行环境查看Word文档，传统方式低效。开源神器doxx基于Rust开发，无需Microsoft Word等软件，有保留格式渲染、全文搜索等功能，还提供多种安装渠道。
评论赠书 | CXL抢跑AI算力新战场，未来计算架构激发智算生产力
AI时代传统架构局限性凸显，CXL技术应运而生。它由英特尔等公司联合推出，解决内存鸿沟问题。‘2024 CXL技术创新方案大赛’推动其发展，《CXL体系结构》一书全面介绍该技术。
一文读懂：GPU之间是如何进行互联的？
文章介绍GPU互联技术发展，从早期SLI、CrossFire到双GPU卡，再到英伟达NVLink协议。详述NVLink 1.0 - 5.0各代升级，还提及DGX、HGX平台差异，以及NVIDIA GB300 NVL72超节点特点等。
破解MoE模型“规模越大，效率越低”困境！中科院自动化所提出新框架
大模型参数量飙升却陷入‘规模越大，效率越低’困境，中科院自动化所研究团队提出统一框架，直击MoE底层运作模式，让专家‘组队学习’，实现参数量、负载方差降低，达成三重优化。
ChatGPT的记忆机制被公开了
OpenAI推出ChatGPT聊天历史记录记忆功能，默认关闭需手动开启，因未全面开放，技术大佬逆向工程破解机制。记忆系统分保存记忆、聊天记录等，体验反馈两极分化，有优势也有诸多bug。