「云端运行」共找到 670 篇相关文章
国科大 ｜ 提出进化算法：EvolKV，自适应分配KV Cache，预算降至1.5%！
键值缓存（KV cache）是大模型快速运行核心技术，但输入文本越长，存储和处理问题越突出。国科大提出进化算法EvolKV，自适应分配KV Cache，实验显示其效果显著，预算可降至1.5%。
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
AI 的下一个战场：端侧模型崛起
大模型退烧，小模型接棒。腾讯、阿里等大厂纷纷官宣小模型成果，英伟达、OpenAI 等也有相关动作。端侧模型赛道广阔，但技术含量不低，面壁智能在端侧模型探索上成果丰硕，其 MiniCPM 系列不断迭代，还在多领域落地。
DeepSeek-R2可能本月发布，使用华为AI芯片
Huaweicentral消息，搭载华为昇腾AI芯片的DeepSeek - R2可能8月15 - 30日发布，或媲美GPT - 5。它运行在昇腾910B芯片集群，参数规模达1.2万亿，将以低价提供API，冲击开源大模型市场。
苹果分享 iOS 26 即将推出的 AI 基础模型的细节
苹果在技术报告中公布 iOS 26 新 AI 基础模型细节。该模型有 3B 参数和更大版本，前者在设备运行，后者用于私有云平台。介绍了架构、评估结果，还强调实现可信赖 AI 的方法。
谷歌MCP Toolbox for Databases拆解：助你快速构建数据访问智能体的神器
企业Agent运行常需访问数据库，但会遇到工程问题。本文详解谷歌开源项目MCP Toolbox for Databases，介绍其概念、好处、使用方式，还展示安装、配置、启动过程及不同模式下使用方法，兼具安全管控与可观测性。
JManus - 面向 Java 开发者的开源通用智能体
在Manus火热背景下，Spring AI Alibaba JManus诞生，它是用Java实现的开源OpenManus。可集成多个大模型，功能完善，能让Java开发者低门槛搭建智能体系统，还给出了运行方法及共建思路。
腾讯 Marvis 上线 iOS 版：你电脑上的专属 AI 牛马，终于可以装进口袋了
腾讯 Marvis 是应用宝团队推出的个人 AI 助手，四端已打通。它有云端和端侧两种模式，具备跨端远控和本地知识库等被低估的能力，还与微软、英特尔合作，是国内有本地模式的优选。
乐鑫开源首个「物联网设备Agent框架」，Claw的风终于吹到硬件上
乐鑫开源首个物联网设备Agent框架ESP - Claw，用C语言重写。它核心理念是对话即创作，可让用户通过聊天定义硬件行为。具备运行效率高、内存占用低等特点，还有多种功能及良好的生态适配性。
杀疯了！单卡4090跑通全量微调，面壁1B级多模态性能怪兽硬刚大厂
面壁智能推出MiniCPM-V 4.6，参数约1B，性能和推理效率出色。它在多模态任务综合能力、推理速度上领先竞品，靠ViT架构改造和4倍/16倍混合视觉Token压缩实现创新，有工业验证，对开发者和普通用户意义大。