「单卡运行」共找到 600 篇相关文章
从browser-use 出发，品 Agent 实现
本文作者以学习总结视角，从browser - use出发解析Agent实现。介绍LLM不同阶段，阐述Agent记忆、规划、工具等要素，通过对话演示和源码分析展示运行机制，还探讨MCP集成和Coze space应用模式。
轻量级语音模型Vui开源，支持本地部署，笑声停顿全拟真，4万小时练出人类对话感！
近日，Fluxions - AI团队在GitHub开源轻量级语音模型Vui，可设备端运行。它能精准模拟语气词、笑声等，有三款模型，适用于语音助手、播客生成等场景，解决了传统模型的痛点。
Agent 工程师绕不开的必修课：API 网关 vs API 管理
文章探讨了 API 网关与 API 管理的起源发展、关键差异、协同工作及未来趋势。API 网关从流量网关演进到 AI 网关，API 管理从文档化走向商业化。两者差异源于起点、使用角色和技术内核不同，未来将向 AI 网关和 MCP Server 管理演进。
英伟达官方推理指南来了！6倍无损加速，最优解全是华人写的
9月2日，英伟达技术博客上线《用投机解码做AI模型协同设计》，给出推理加速选型表。列入指南的核心方案多由华人团队主导，介绍了从外置草稿模型到n - gram查表法等方案，还提到硬件常数对模型架构的约束。
AI 还在装失忆？1 万 Star 开源 EverOS 有点东西，把 Agent 记忆塞进 Markdown
EverOS 是 EverMind - AI 开源的项目，有 10325 Star。它给 AI Agent 等提供 local - first 长期记忆运行时，把记忆源头放 Markdown 里，以 SQLite 和 LanceDB 管理和检索。介绍了其优势、链路、适用场景等。
Claude Code 推出 Agent View 功能，一键管理所有会话
Claude Code 推出 Agent View 功能，可同时派出一群 AI agent 干活，在一个屏幕管理所有会话。通过 `claude agents` 命令，能让各会话互不干扰工作，界面按状态分组展示，还能就地回复、随时进出，且后台跑不会断。
智能体的尽头是Harness基建！上海交大深度解读Harness
上海交通大学等团队深度拆解智能体技术核心演进逻辑，指出智能体落地关键已转移到外部认知基础设施。阐述记忆、技能、协议与运行环境（Harness）如何重塑概率生成，介绍各模块特点及前沿趋势。
Claude Managed Agents 公测发布！Agent 开发成本直降 500 倍
Claude 宣布 Managed Agents 进入公测，可大幅降低 Agent 开发成本。它能自动生成配置和代码，接管多项任务，实现长时间自主运行。多家早期客户使用后效果显著，还介绍了定价、接入方式及与自建的差异。
给 iPhone 装个“最强本地大脑”：Google 开源模型 Gemma 4
Google 4 月初发布开源模型 Gemma 4，可离线运行在 Google AI Edge Gallery 上。它在多项基准表现出色，采用 Apache 2.0 协议，开发者可集成到 App。还介绍了在 iPhone 离线使用方法及适用场景。
iPhone本地跑Gemma 4火了，0 token时代还有多远？
谷歌开源新模型Gemma 4，部分小型号可在手机端本地运行，速度惊人，还有128k上下文窗口。但在处理复杂任务时表现欠佳。未来端侧模型有望蚕食云端高频简单任务，将冲击现有AI商业模式。