「推理优化与部署」共找到 3524 篇相关文章
一周1.2k星！兼具质量与效率的OCR模型MonkeyOCR，支持多样化的中英文PDF
MonkeyOCR采用SRR三元组范式，简化多工具流程、避免整页文档处理低效问题。与MinerU、端到端模型相比性能更优，处理速度也更快。暂不支持拍摄文档解析，文章还给出安装、推理等操作步骤。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。
阿里又上好货了！Qwen3-TTS能力大幅提升
阿里刚发布Qwen3-TTS（2025-11-27版），解决语音合成核心问题。它音色大幅扩展，有49种高品质音色；语言和方言能力提升，支持10种主流语言与多种方言；韵律和语速优化，拟人化近真人；API调用简单。
我给 OpenClaw 杀了 47 次僵尸进程，终于想明白了一些事
作者分享使用OpenClaw的经历，吐槽其部署、二开及钉钉通道集成问题，分析它火的原因，对比本地与云上沙箱模式，反思Skill与传统Agent工程、AI交付产品局限，指出AI应用工程化仍重要。
ICLR 2026 Oral | 让大模型学会“像法医般思考”，实现可解释、可泛化的深度伪造检测
生成式AI发展使深度伪造技术安全隐患受关注，现有检测器表现不佳。中科院自动化所联合蚂蚁集团提出Veritas框架，构建HydraFake数据集，赋予大模型“模式感知推理”能力，实验效果超现有检测器，还给出未来研究方向。
Relink：为GraphRAG动态构建证据图
大语言模型在开放域问答中有‘幻觉’问题，GraphRAG结合LLM与知识图谱缓解此问题，但现有方法有缺陷。作者提出‘推理并构建’新范式和Relink框架，实验显示其性能领先，对RAG系统设计有启示。
Target 公司借助生成式 AI 推荐将“加入购物车”互动率提升 11%
Target公司为应对零售目录中配套产品组合复杂挑战，部署基于生成式AI的配件推荐系统GRAM。它用大模型分析产品数据，结合人工审核，A/B测试显示提升了互动率和转化率，已全面投入生产。
19K star 霸榜，下一代的浏览器自动化神器！
做爬虫或Web自动化测试常因网页结构变动需重写脚本。Github上超火的Skyvern项目是基于浏览器的自动化代理，不依赖XPath或CSS选择器，用视觉识别结合大模型推理完成任务，已获19k+ star。
mcp-feedback-enhanced：一个让 Cursor 500 次额度膨胀N 倍的骚气 MCP！一次请求变成 N 次！
Cursor每月500次请求额度常不够用，网友分享“咒语”利用其工具调用功能让一次请求变多次。mcp-feedback-enhanced这个MCP工具能将多次交互合并到一次请求，还介绍了使用、安装配置及持续调用优化方法。
开源知识库，从 0 到上线，UltraRAG 企业知识库全流程实战 ，也许这是RAG最好的框架之一～～～
UltraRAG是基于MCP架构的轻量级RAG开发框架，核心设计工程友好。其3.0版强调推理可视化，适用于科研复现、企业知识库问答等场景，还介绍了使用方式，能解决RAG落地痛点。