「端侧运行」共找到 671 篇相关文章
开启端侧长文本时代！面壁全新架构，让小钢炮最快提升220倍
2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。
85倍速度碾压：苹果开源FastVLM，能在iphone直接运行的视觉语言模型
苹果开源能在 iPhone 上运行的视觉语言模型 FastVLM，代码仓库含 iOS/macOS 演示应用。它速度快，首个 token 输出速度较同类模型提升 85 倍，还兼容主流 LLM，适合边缘设备等场景。
让记忆学会“进化”：探索 LLM Agent 的运行时价值感知与自适应检索 | 直播预约
本次直播将介绍最新研究成果 MemRL，提出作用于情景记忆的运行时强化学习方法，使 LLM Agent 能判断记忆价值，检索高价值经验，提升复杂未知环境下泛化性能与任务成功率。
开源TTS离线工具！浏览器本地运行，仅300MB模型大小，零服务器依赖，隐私0泄露！
传统TTS工具依赖云端，隐私风险高、延迟大且费用高。而Streaming-KokoroJS是基于Kokoro - 82M开发的开源TTS工具，能在浏览器本地运行，零服务器依赖，隐私零泄露，具备多项实用功能。
2.6K Star！超逼真端侧TTS模型，0.5B参数3秒音频即时克隆！
文章介绍开源项目NeuTTS Air，它是免费、轻量级超逼真语音合成模型，仅0.5B参数，媲美商用TTS引擎，能在低功耗设备运行，支持3秒音频克隆声音，还给出使用步骤和应用场景。
太空算力竞赛白热化：谷歌刚刚发布计划，中国太空计算卫星星座已在轨运行半年
当地球AI算力竞赛内卷，太空算力赛道开启。中国国星宇航“星算”计划首批卫星半年前已组网运行，规模和算力世界第一。谷歌等巨头也有布局，但谷歌计划2027年初才发原型卫星，中国企业已占先发优势。
首个OpenClaw智能体宿主机性能评测报告：单机可稳定运行96路Agent实例
OpenClaw成中小企业AI利器，但企业部署面临效率、并发和安全问题。浪潮信息基于元脑x86服务器完成测试，发布评测报告，该服务器单机可稳定运行96路Agent实例，还支持一键配置、多用户隔离。
vivo突破手机AI部署难题，绕开MoE架构限制，骁龙8 Elite流畅运行｜ICCV 2025
在AI多模态时代，‘让大模型上手机’成焦点。现有MLLM在手机端部署有难题，vivo AI研究院等团队提出GenieBlue方案，绕开MoE架构限制，在骁龙8 Elite芯片手机流畅运行，保持语言性能同时实现多模态表现。
MiniCPM-o 4.5 技术报告发布：全双工全模态 API 开放，RTX5070 即可实时运行
面壁智能等发布 MiniCPM-o 4.5 技术报告，开放全双工全模态 API。该模型 9B 参数，RTX5070 可实时运行，下载量超 25 万。报告披露 Omni - Flow 框架，模型性能强，还能催生新应用。
刚刚，苹果WWDC掀AI重构风暴！端侧模型全开放、AI版Siri却成最大「鸽」王
北京时间今天凌晨，苹果全球开发者大会 WWDC 召开。苹果宣布系列系统更新，展示 AI 融入产品计划，开放端侧大模型，推 Xcode 26。但增强版 Siri 跳票，股价下跌，网友不满。