「本地处理」共找到 1294 篇相关文章

推荐文章7

为什么 DeepSeek 大规模部署很便宜,本地很贵

文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡,受批处理大小影响。还分析了不同模型需大批次的原因,如专家混合模型、大型管道模型等。

AI前线
产品应用7

GitHub 如何用 AI 重构反馈处理机制

GitHub 引入由 AI 驱动的工作流,将无障碍反馈转化为工程工作。系统基于 GitHub Actions、Copilot 和 Models APIs 构建,集中管理报告、分析合规性、协调问题解决。采用后问题解决比例提升,时间下降。

InfoQ
开源动态8

让本地大模型不再重复推理的缓存技巧

本地跑大模型时,同样问题换说法问,模型又要重新推理。`constraint-cache`这个Python库可解决此问题,它将语义相似查询规范化为统一缓存键,实现近乎即时的重复查询响应,还避免了随机性响应问题。

AI工程化
开源动态7

开源大模型实战:GPT-OSS本地部署与全面测评

2025年8月5日,OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型,采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法,并对其进行AI幻觉、算法、SQL、数学题等测试。

机器学习AI算法工程
开源动态7

纯本地隐私绝佳,没网也能翻,30+语言支持!

日常常用翻译工具依赖云端,有隐私风险。开源离线翻译项目`Argos Translate`,基于Python开发,支持多语言互译,有多种使用形式。虽翻译精度略逊,但隐私性好、可自由部署,适合有安全需求的用户。

开源先锋
开源动态7

二创党福音!基于AI的开源智能视频切片处理系统

AutoClip是基于AI的开源智能视频切片处理系统,能自动从多平台下载视频、提取精彩片段并生成合集。适合UP主、内容创作者等,有多平台支持、AI智能分析等特性,部署方式简单。

GitHubStore
开源动态7

谷歌开源 Colab MCP Server,AI 智能体可云端运行代码

谷歌开源 Colab MCP Server,使 AI 智能体通过 MCP 与谷歌 Colab 交互,将本地智能体工作流与云端执行环境打通,解决本地部署局限,还反映 AI 智能体与外部工具交互标准化趋势。

InfoQ
开源动态8

JSON 瑞士军刀,效率直接起飞!

现在很多接口、日志、配置文件用JSON,数据结构复杂时处理麻烦。`jq`是专门处理JSON的工具,支持格式化、过滤、提取等操作,语法简单,在多场景常见,安装方便。

开源先锋
开源动态7

还是你们会玩,2.9k Star OpenBiliClaw

OpenBiliClaw把浏览器扩展等拼成内容发现Agent,将内容推荐主导权交回用户。它汇总显式授权来源信号找内容,形成本地画像。介绍其架构层级、核心闭环,也提醒“本地优先”仍需做隐私检查。

小华同学ai
开源动态8

40.9K Star 数据可视化神器!Json数据处理领域的“瑞士军刀”!

在数据驱动场景中,解析复杂嵌套JSON结构费时费力。GitHub上标星40.9K的开源工具JSONCrack,能将JSON数据可视化为交互式节点图,还有转换、格式化等功能,使用简单,应用场景广。

开源星探