「端侧运行」共找到 671 篇相关文章
让VLA真正跑上机器人：北大团队开源Jetson-PI，Jetson Orin控制频率提升8.66倍
文章聚焦让VLA模型在机器人上高效运行难题。北大等团队提出Jetson - PI方案，从异步推理算法等三层面优化，在Jetson Orin上控制频率提升8.66倍，推动具身智能向工业应用跃迁。
3B激活参数，干翻GPT-5.4和Opus4.6，商汤绝影把龙虾塞进了车里
商汤绝影发布端侧多模态大模型Sage，32B总参数、3B激活参数，在PinchBench评测超Claude Opus4.6等。自研SCOUT和ERL技术助力，从多维度领先同量级端侧模型，为座舱智能体提供支撑。
如何做到在手机上实时跑3D真人数字人？MNN-TaoAvatar开源了！
阿里巴巴淘宝Meta技术团队研发的TaoAvatar技术，能在手机或XR设备实现3D数字人实时渲染与AI对话。今日开源MNN - TaoAvatar应用，可在手机运行，对比主流方案更高效便捷，还介绍其优势、技术及使用说明。
iPhone本地跑Gemma 4火了，0 token时代还有多远？
谷歌开源新模型Gemma 4，部分小型号可在手机端本地运行，速度惊人，还有128k上下文窗口。但在处理复杂任务时表现欠佳。未来端侧模型有望蚕食云端高频简单任务，将冲击现有AI商业模式。
断网可用！首款全双工全模态大模型技术报告发布，附一键安装包
面壁智能等联合发布MiniCPM-o 4.5技术报告，它是业界首个端到端全双工全模态大模型，采用Omni - Flow架构。同步推出在线Demo、API、端侧安装包等，低显存GPU即可运行，性能表现优秀，应用潜力大。
微软正式发布 Agent Framework Harness 和 Hosted Agents
2026年4月2日微软发布Agent Framework 1.0版本，Build 2026大会上相关组件进入稳定发布阶段，后Harness和Foundry Hosted Agents正式发布，解决构建和运行时问题，还介绍其功能、优势等。
AI 剪辑杀器 CutClaw 开源了！再也不用手动卡点了！
CutClaw是面向长视频与音乐的端到端自动剪辑系统，可自动解析素材，按文字指令生成踩点短片，部署简单，有短期和长期目标，也给出运行慢的原因与优化建议。
一键检测你的电脑能跑哪些大模型，这项目6！
介绍工具`LLMFit`，它用Rust编写，能自动检测硬件配置，判断大模型能否流畅运行，还可推荐最优量化版本和运行模式。该项目在Github获5.9k+ star，有多种安装方式。
金融版 Claude Code
Dexter 是自主运行的金融研究智能体，类似金融版 Claude Code。能处理复杂金融问题，有智能任务规划等核心能力。文章介绍其先决条件、安装、运行、评估、调试方法及项目地址。
谷歌发布本地具身智能模型！全程无联网执行精细操作，从人形机器人到工业机器人全覆盖
Google DeepMind团队发布可本地运行的视觉 - 语言 - 动作模型Gemini Robotics On - Device，它能离线运行，操作能力强，可在多种机器人本体部署，解决网络问题，性能、适应能力出色，还开放了SDK。