「端侧设备」共找到 348 篇相关文章
刚刚，面壁小钢炮开源进阶版「Her」，9B模型居然有了「活人感」
2月4日，面壁开源全双工全模态大模型MiniCPM - o 4.5，在多方面达SOTA水平。它能边看边听边说，实现自主交互。实测中表现如真人，其架构和机制有创新，还适合端侧部署，或开启人机交互新时代。
存储的超级周期，缺货潮将贯穿2026年？
近期存储市场火热，价格飞涨，下游厂商面临成本压力。缺货潮或贯穿2026年，因AI需求爆发，三大厂商减产DDR4等产能。其他厂商难补缺口，华邦虽有扩产计划但周期长。端侧AI发展对存储有新要求，华邦布局相关产品。
AI PC进入爆发期，国产芯片能否在其中分得一杯羹？
AI从云端走向端侧，AI PC迎来爆发期。Arm虽有结构性优势，但在PC端进展慢。此芯科技推出此芯P1，联合多方打造开放平台，推动标准化和生态建设，产品也不限于AI PC，未来有望为国产芯片争得话语权。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
光掩模版：芯片产业的 “隐形胜负手”
光掩模版是芯片制造的“微观底片”，其制造流程复杂，精度要求达纳米级。全球市场规模持续增长，亚太占比超60%。中国企业已在部分环节突破，但仍面临高端设备依赖、材料瓶颈和人才短缺挑战。未来技术融合与国产化生态建设将助力产业发展。
Andrej Karpathy爆料：自己家被Claude Code入侵了
Andrej Karpathy做实验让Claude Code入侵自家Lutron智能家居系统，成功接管全屋设备。此前网友用其控制烤箱等，引发连锁反应。但这也暴露物联网设备安全问题，还带来新威胁。
英伟达首台DGX GB300，老黄亲自登门送给他
老黄将首台DGX Station（GB300）送给个人开发者卡帕西，还附赠“小作文”。卡帕西打算用它搭建个人AI集群做实验。DGX Station把数据中心级AI算力搬到桌面，英伟达还为此贡献开源堆栈NemoClaw。
从 Apple M5 到 DGX Spark ，Local AI 时代的到来还有多久？
近期，黄仁勋将桌面级AI超算DGX Spark交付给马斯克引发热议。同时，Apple Silicon等芯片下放端侧推理能力，本地运行时和端侧模型供给加速成熟。但本地算力等问题仍制约消费终端Local AI大众化落地。
中国算力方案：如何用有限资源做出无限可能？｜甲子引力
2025年12月3日，「甲子光年」举办年终盛典，在算力产业专场，分析师王艺对话多位嘉宾，探讨中国算力方案。面对算力困境，嘉宾分享突破策略，还就关键瓶颈、技术路径等展开交流，认为具备场景洞察等优势才能持续突破。