「终端运行」共找到 685 篇相关文章
Ollama升级模型调度系统：内存管理更精准，多GPU性能提升
Ollama升级模型调度系统，精确测量运行模型所需内存，带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升，更多模型正迁移，还在开发iGPU支持，评估NPU支持。
Gaia2 与 ARE：赋能社区的智能体评测
文章介绍 Gaia2 与 ARE，Gaia2 是智能体基准 GAIA 升级版，能分析复杂行为，与 ARE 框架一同发布。ARE 可模拟复杂真实条件，支持定制。文中对比多款模型，指出当前模型挑战，并说明评测步骤和 ARE 使用场景。
国科大 ｜ 提出进化算法：EvolKV，自适应分配KV Cache，预算降至1.5%！
键值缓存（KV cache）是大模型快速运行核心技术，但输入文本越长，存储和处理问题越突出。国科大提出进化算法EvolKV，自适应分配KV Cache，实验显示其效果显著，预算可降至1.5%。
AI 的下一个战场：端侧模型崛起
大模型退烧，小模型接棒。腾讯、阿里等大厂纷纷官宣小模型成果，英伟达、OpenAI 等也有相关动作。端侧模型赛道广阔，但技术含量不低，面壁智能在端侧模型探索上成果丰硕，其 MiniCPM 系列不断迭代，还在多领域落地。
DeepSeek-R2可能本月发布，使用华为AI芯片
Huaweicentral消息，搭载华为昇腾AI芯片的DeepSeek - R2可能8月15 - 30日发布，或媲美GPT - 5。它运行在昇腾910B芯片集群，参数规模达1.2万亿，将以低价提供API，冲击开源大模型市场。
苹果分享 iOS 26 即将推出的 AI 基础模型的细节
苹果在技术报告中公布 iOS 26 新 AI 基础模型细节。该模型有 3B 参数和更大版本，前者在设备运行，后者用于私有云平台。介绍了架构、评估结果，还强调实现可信赖 AI 的方法。
谷歌MCP Toolbox for Databases拆解：助你快速构建数据访问智能体的神器
企业Agent运行常需访问数据库，但会遇到工程问题。本文详解谷歌开源项目MCP Toolbox for Databases，介绍其概念、好处、使用方式，还展示安装、配置、启动过程及不同模式下使用方法，兼具安全管控与可观测性。
大模型下半场，阶跃凭什么领跑多模态之战
国内大模型竞争分资源派、技术派、国家队三阵营，多模态成竞争分水岭。阶跃星辰成立两年发22款自研基座模型，16款为多模态。其坚持理解生成一体化路线，在多模态领域有优势，还布局多应用场景。
JManus - 面向 Java 开发者的开源通用智能体
在Manus火热背景下，Spring AI Alibaba JManus诞生，它是用Java实现的开源OpenManus。可集成多个大模型，功能完善，能让Java开发者低门槛搭建智能体系统，还给出了运行方法及共建思路。
7.3K Star！用 Orca 组建 AI 舰队：让 Claude Code 和 Codex 同时开工！
Claude Code 大火后，多家大厂推出自家 Code CLI，多终端操作上下文切换成本高。Orca 是开源 AI 编排器，可让多个 AI 编程助手并行工作，集中查看结果，有并行工作区、统一管理界面等亮点。