「端侧运行」共找到 673 篇相关文章
国科大 ｜ 提出进化算法：EvolKV，自适应分配KV Cache，预算降至1.5%！
键值缓存（KV cache）是大模型快速运行核心技术，但输入文本越长，存储和处理问题越突出。国科大提出进化算法EvolKV，自适应分配KV Cache，实验显示其效果显著，预算可降至1.5%。
DeepSeek-R2可能本月发布，使用华为AI芯片
Huaweicentral消息，搭载华为昇腾AI芯片的DeepSeek - R2可能8月15 - 30日发布，或媲美GPT - 5。它运行在昇腾910B芯片集群，参数规模达1.2万亿，将以低价提供API，冲击开源大模型市场。
苹果分享 iOS 26 即将推出的 AI 基础模型的细节
苹果在技术报告中公布 iOS 26 新 AI 基础模型细节。该模型有 3B 参数和更大版本，前者在设备运行，后者用于私有云平台。介绍了架构、评估结果，还强调实现可信赖 AI 的方法。
谷歌MCP Toolbox for Databases拆解：助你快速构建数据访问智能体的神器
企业Agent运行常需访问数据库，但会遇到工程问题。本文详解谷歌开源项目MCP Toolbox for Databases，介绍其概念、好处、使用方式，还展示安装、配置、启动过程及不同模式下使用方法，兼具安全管控与可观测性。
JManus - 面向 Java 开发者的开源通用智能体
在Manus火热背景下，Spring AI Alibaba JManus诞生，它是用Java实现的开源OpenManus。可集成多个大模型，功能完善，能让Java开发者低门槛搭建智能体系统，还给出了运行方法及共建思路。
腾讯 Marvis 上线 iOS 版：你电脑上的专属 AI 牛马，终于可以装进口袋了
腾讯 Marvis 是应用宝团队推出的个人 AI 助手，四端已打通。它有云端和端侧两种模式，具备跨端远控和本地知识库等被低估的能力，还与微软、英特尔合作，是国内有本地模式的优选。
乐鑫开源首个「物联网设备Agent框架」，Claw的风终于吹到硬件上
乐鑫开源首个物联网设备Agent框架ESP - Claw，用C语言重写。它核心理念是对话即创作，可让用户通过聊天定义硬件行为。具备运行效率高、内存占用低等特点，还有多种功能及良好的生态适配性。
杀疯了！单卡4090跑通全量微调，面壁1B级多模态性能怪兽硬刚大厂
面壁智能推出MiniCPM-V 4.6，参数约1B，性能和推理效率出色。它在多模态任务综合能力、推理速度上领先竞品，靠ViT架构改造和4倍/16倍混合视觉Token压缩实现创新，有工业验证，对开发者和普通用户意义大。
Gemini进手机，Android翻身；Gemini进电脑，全网开喷！
谷歌在端侧AI大力尝试，在Android Show I/O Edition发布围绕Gemini Intelligence的新产品与功能，让AI进入系统基础体验。手机端Create My Widget功能亮眼，而Googlebook引发争议。同时苹果iOS 27也有Siri改造新消息。
一张4090就能爆改！面壁智能MiniCPM-V 4.6开源，1B多模态卷出新高度
今年是AI应用大规模落地年，参数小的端侧模型有特定场景性能优势。5月11日面壁智能开源MiniCPM-V 4.6，参数仅约1B，多模态能力超阿里、谷歌同类模型，还在多维度提升，站稳端侧多模态开源领域。