「本地自部署」共找到 2009 篇相关文章
微软开源智能呼叫中心,完全替代人工客服
微软开源基于Azure和OpenAI GPT的智能呼叫中心解决方案,可完全替代人工客服。它功能强大,支持多语言、实时流式对话等,还能定制。文章详细介绍了部署步骤、高级用法等内容。
深度拆解,硬核解构,揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统,介绍其核心组件和高级特性,包括推理引擎流程、调度机制、高级功能等,还提及系统扩展、分布式部署、性能测量等内容,助力读者理解推理引擎工作原理。
Cloudflare 详解从 WordPress 迁移至 EmDash 的过程
本文为InfoQ翻译内容,Cloudflare公开了将官方主博客从WordPress迁移到自研开源内容管理系统EmDash的完整过程,分享了性能测试结果与灰度迁移方案,讨论了新CMS的优势。
个人AI知识库的最优解
作者认为2026年搞个人AI知识库,自己的东西放Obsidian,别人的放NotebookLM。介绍了Obsidian接入AI的两种方法,还称NotebookLM性能强,最后总结这两套方案最适合个人。
重构开发体验:CodeFuse 智能代码助手的设计与实践
蚂蚁集团技术专家牛俊龙在 QCon 大会分享 CodeFuse 智能代码助手架构设计与实践,介绍本地核心服务设计策略,结合案例优化其 AI 能力,还分享落地经验、教训与未来发展路径。
The Batch: 863 |推理提高了碳排放
新研究量化推理模型时代提供更优答案的环境成本,研究人员估算14个开源权重的大模型碳排放,发现推理与排放存在权衡关系,还指出战略性部署可降低排放。
如何选择最佳多模态大模型压缩方案?哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中,LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架,能为多模态大模型压缩方案出具‘体检报告’,还揭示LVLM加速复杂性,推动技术发展。
Claude Science几周干完两年活,10倍科研提速真来了?
2026年6月30日,Anthropic发布Claude Science,定位面向科学家的AI工作台。它将科研拆成可审计流水线,整合工具链,自带可追溯代码,有协调与审查智能体,首落生命科学领域,与Google、OpenAI玩法不同。
「生化危机」女主用Claude手搓满分AI,一年0.7美元反杀大厂!
《生化危机》女主Milla Jovovich与工程师好友用Claude开源AI记忆系统MemPalace,在LongMemEval获全球首个满分。虽上线后被社区挑刺,团队公开认错,但其成绩和免费本地运行优势仍受关注。
我在微信免费养「龙虾」,玩到上瘾,这组CP太强了
2026 开年「龙虾热」渗透各类任务场景,腾讯动作密集。其自研 WorkBuddy 优势明显,与微信 ClawBot 联动成「官配」。经测试,它能高效处理多类任务,还为用户提供权益,腾讯龙虾矩阵加速成形。