「本地处理」共找到 1254 篇相关文章
32k微调处理百万Token：21倍的推理加速，10倍的峰值显存节省，实现恒定内存消耗
现有大模型处理超长文档易内存爆炸、计算崩溃。阿里巴巴未来生活实验室推出CoMeT架构，有双轨并行记忆系统，能恒定内存、线性时间处理文本，在基准测试超主流方法，实现21倍推理加速和10倍显存节省。
我去，还能这么玩？AI新宠DocExt：纯本地文档抽取，开源免费还无依赖！你还在为OCR头疼吗？
DocExt 是 Nanonets 开源项目，为全流程无 OCR、零云依赖的本地文档结构化提取工具，适用于多种文档类型，支持字段与表格识别。它零 OCR 误差小、可本地部署，还能灵活接入模型。
Wispr Flow 平替, 这款开源中文语音助手，程序员真该试试,本地离线的中文语音输入神器来了（开源白嫖版）
蛐蛐（QuQu）是开源桌面应用，用本地语音识别模型和配置的大语言模型，将语音实时转文字并润色。它主打本地语音工作流，替代Wispr Flow，免月费且保护隐私，适合中文用户。
一键搞定百万行Excel和PPT排版！这家杭州电力AI初创要给打工人减负
AI生产力革命被困云端，本地智能体工作台XMO - AgentBox应运而生。它由杭州曦谋决策打造，集成DeepSeek模型，能处理复杂场景，有平台化能力、核心价值，适合专业人士，现可免费下载桌面版。
RunAnywhere：简单几步让AI应用跑在手机上
介绍能在手机本地运行的大模型项目RunAnywhere，它让开发者在iPhone 16 Pro Max部署Llama 3.2 3B模型。AI处理本地化，用React Native和RunAnywhere SDK，支持多模型，有多种功能，优势明显。
15.1k，谷歌Notebook LM本地开源替代！
Open Notebook是开源、本地化且重隐私的Google Notebook LM替代方案。它支持超16家供应商，能整理多模态内容、生成专业播客，在多方面比Google Notebook LM更具优势。
本地无限画布，把AI创作玩出了新高度！
传统AI生图工具使用有局限，缺乏自由组织的畅快感。Infinite - Canvas是本地无限画布工具，支持多种生成后端，有普通和智能两种画布模式，具空间自由、覆盖不同用户等优势，还提供上手教程。
用 Ollama 本地运行 OpenAI gpt-oss 官方完整教程
OpenAI出教程教用Ollama本地部署gpt-oss-20b或gpt-oss-120b，可实现离线对话、API调用等。介绍模型版本、硬件要求、安装设置，还提及对话、API使用、工具调用、与Agents SDK集成等内容。
Google Gemini Embedding2：一个模型处理所有媒体类型
Google发布Gemini Embedding 2，首个原生多模态嵌入模型。能处理文本、图像等多种媒体类型，支持交错输入，覆盖超100种语言。与多模型串联方案比，延迟降70%、召回率升20%。已可在Gemini API等使用。
Vercel 开源 Bash 工具：基于本地文件系统的上下文检索
Vercel开源bash - tool，为AI智能体提供Bash执行引擎，让其通过shell命令在文件夹操作获取上下文，有三大核心操作，部署灵活，可节省token，贴合Unix工作流，或影响未来AI开发系统处理本地上下文方式。