「端侧计算」共找到 795 篇相关文章
算力成本大降！马尔可夫思考机来了，LLM推理成本直接降为线性
用强化学习让LLM具备推理能力耗费颇高，计算量会二次级增长。Mila和微软研究院等团队提出马尔可夫式思考机，重构强化学习形式，让计算量呈线性，实验效果显著，还能与先进模型兼容。
语言反思>强化学习：伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。
JCP | 浙江大学边鑫等：基于 PINNs 的非结构自适应网格细化：面向稳态流动的残差驱动 AMR 新方法
本文提出利用控制方程残差引导网格细化的启发式策略，用物理信息神经网络（PINNs）整合粗网格数据与控制方程。通过解决流动问题并与传统方法对比，显示该策略能平衡计算精度与成本，但有额外计算开销。
从 Apple M5 到 DGX Spark ，Local AI 时代的到来还有多久？
近期，黄仁勋将桌面级AI超算DGX Spark交付给马斯克引发热议。同时，Apple Silicon等芯片下放端侧推理能力，本地运行时和端侧模型供给加速成熟。但本地算力等问题仍制约消费终端Local AI大众化落地。
多家芯片公司业绩飙涨，这个赛道彻底火了？
近期多家A股芯片公司Q3财报亮眼，受益于端侧AI推进。端侧AI优势多，吸引科技巨头布局，但落地有挑战。技术进步使大模型轻量化，手机与AI眼镜较热。其发展面临应用、技术、生态等问题，也有隐私保护方案。
沈亦晨的九年：从MIT一间实验室到港交所大堂
2026年4月28日，曦智科技在港交所敲钟，股价表现亮眼。创始人沈亦晨从MIT实验室起步，带领公司历经九年发展，在光计算和光互连领域取得诸多成果，虽亏损但受市场热捧，光计算产业也吸引大厂入局。
不跟英伟达走老路，这家GPU公司的技术架构藏着哪些关键解？
在国产GPU上市黄金窗口期，天数智芯上市后首场发布会引发广泛讨论。其公布架构路线图，2027年前追赶英伟达，之后转向创新架构设计。还提出回归计算本质、提供高质量算力两条架构判断，并展示边端算力产品及应用。
LLM 技术在有道词典笔上的应用实践
本文围绕LLM技术在有道词典笔的应用展开。先分析端侧大模型落地挑战，如算力、功耗等。介绍有道词典笔等硬件及应用，对比端侧与云侧AI优劣。还阐述模型落地模式、算法优化及“子曰3数学模型”开源情况。
黄仁勋手撕「AI泡沫」论！英伟达570亿铁拳暴击，显卡全断货
英伟达Q3 2026财报显示单季度营收达570亿美元，数据中心业务同比狂涨66%。黄仁勋称AI不是泡沫，而是计算范式从通用CPU转向加速式GPU计算的必然。当前多数AI公司估值高、收入低，英伟达作为‘卖铲人’大获全胜。
奥特曼预告ChatGPT新产品！Pro会员也要额外收费，这次不计成本投入算力
OpenAI已花160亿美元租计算资源，还计划未来五年额外支出1000亿租备用服务器。2024 - 2030年将砸3500亿用于服务器租赁，2030年研发投入近收入50%。奥特曼预告未来几周有计算密集型新产品，部分对Pro用户额外收费。