「端侧计算」共找到 795 篇相关文章
一文看懂华为昇腾芯片
文章介绍华为昇腾芯片，它是面向高性能AI计算的NPU芯片，有昇腾310、910、610等系列。还提及芯片演进、参数、价格、出货量等情况，以及基于芯片的硬件体系，覆盖多场景满足不同需求。
苹果在WWDC提到的本地模型，这家公司把它提速了220倍
苹果在WWDC开放本地语言模型API，让iPhone等有了“AI大脑”，但开发者面临模型运行慢问题。国产团队面壁智能发布MiniCPM 4.0，端侧处理长文本提速惊人，从多层面创新实现，还补上推理框架缺口。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。
英伟达发布物理AI和机器人顶级开发平台Nvidia Jetson Thor
英伟达官网发布专为物理AI和类人机器人打造的顶级平台Nvidia Jetson Thor。其AI计算能力强劲，相比NVIDIA AGX Orin性能和能效大幅提升，硬件配置、存储、多媒体处理及相机支持等方面表现出色，能应对复杂场景。
一张4090就能爆改！面壁智能MiniCPM-V 4.6开源，1B多模态卷出新高度
今年是AI应用大规模落地年，参数小的端侧模型有特定场景性能优势。5月11日面壁智能开源MiniCPM-V 4.6，参数仅约1B，多模态能力超阿里、谷歌同类模型，还在多维度提升，站稳端侧多模态开源领域。
成立五年，这家国产EDA公司冲刺IPO
据上海证券报报道，上海合见工业软件集团股份有限公司于12月26日提交IPO辅导备案申请。合见工软作为国内EDA领域领军企业，填补多项空白，助力国产替代。“超节点计算”带来新挑战，也为国产企业提供机遇。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
更先进的AI，就应该发生在“今天” | 甲子光年
AI应用离消费者体验还有距离，行业分歧加剧。9月22日，联发科发布天玑9500芯片，把AI嵌入端侧设备，在高频场景优化体验，还在芯片设计、硬件创新上突破瓶颈，带动伙伴发展，推动AI普及。
AI发现新物质，仅用200小时！不写一行代码，筛选36.7万种物质
微软在Build大会推出企业级AI科研平台Microsoft Discovery，结合专业AI Agent与高性能计算。它能让无编程背景人员用自然语言使用超算与模拟系统，200小时筛选36.7万种物质找新冷却剂。
比英伟达早，比李飞飞强，大晓Kairos原生一体化世界模型定义物理AI新路线
大晓机器人发布 Kairos 开悟世界模型，其首创“多模态理解 — 生成 — 预测”原生一体化架构，采用跨具身渐进式训练体系和“以人为中心”的数据金字塔，还实现端侧部署，在四大权威具身智能基准上全面登顶。