「并行协同推理」共找到 2543 篇相关文章
GPT-5.2 上线!全面超越 Claude Opus4.5 及 Gemimi 3.0 Pro
OpenAI 正式宣布 GPT-5.2 全面上线,一口气推出三个版本。GPT-5.2 Thinking 在推理能力上拉开代差,是 OpenAI 首个达人类专家水平的模型。各版本定位清晰,不同用户使用时间有别。
vLLM 正式支持 PaddleOCR-VL
11月4日,vLLM项目宣布正式支持PaddleOCR-VL模型。该模型专注文档解析,参数量仅0.9B。合作降低部署门槛,推理效率更高,官方还给出部署指南和配置建议,流程快速完成可作榜样。
多个编码智能体同时使用会不会混乱?海外开发者热议
AI编程工具进步快,GPT - 5等模型推动开发自动化。编码智能体成开发常态,但存在问题。独立开源开发者Simon Willison分享并行使用多个编码智能体经验,引发海外开发者热议。
别再纠结选哪个模型了,这个项目让它们一起干活!豪赠1亿token,羊毛薅起来!
元脑企智 EPAI 推出「多模融合」API,让多个模型围绕同一任务协同工作。经代码生成、财务分析等测试及权威评测,效果出色。还采取智能调度等策略,现限时申请可免费使用,豪赠1亿token。
以「图」破局,HyperOffload定义超节点存储管理新范式
随着生成式AI进入万亿参数时代,大语言模型面临“显存墙”挑战。上海交大与华为MindSpore团队发布技术报告《HyperOffload》,其核心技术集成于MindSpore 2.8,能提升超节点异构资源协同效率,已在多项目落地。
ACP 协议 + 多 AI 编程智能体:企业研发的新生产力平台
文章围绕 ACP 协议展开,介绍其概念、工作原理及在 AutoDev 的集成实践。还提及 ACP 生态、多 Agent 协作实践,如 Augment Intent、Google Antigravity。最后阐述企业级 AI 平台治理体系,包括 MCP、ACP、A2A 三层协议协同价值。
破局之刃已然出鞘!国产处理器选哪家?
本文精选2025年参评“芯师爷-硬核芯年度评选活动”的国产处理器产品,介绍了海光、紫光同创等企业的处理器特点及应用场景,指出国产处理器在性能逼近国际主流,未来胜负手是生态协同与场景渗透。
一周1.2k星!兼具质量与效率的OCR模型MonkeyOCR,支持多样化的中英文PDF
MonkeyOCR采用SRR三元组范式,简化多工具流程、避免整页文档处理低效问题。与MinerU、端到端模型相比性能更优,处理速度也更快。暂不支持拍摄文档解析,文章还给出安装、推理等操作步骤。
从零开始200行python代码实现LLM
文章从传统思路出发,用Python实现极简大语言模型,介绍从零基础到Bigram模型的过程,包括词汇表、模型训练推理等内容,还讲解了PyTorch基础,最后实现pytorch版Bigram模型,后续将实现完整GPT。
ICLR 2026 Oral | 让大模型学会“像法医般思考”,实现可解释、可泛化的深度伪造检测
生成式AI发展使深度伪造技术安全隐患受关注,现有检测器表现不佳。中科院自动化所联合蚂蚁集团提出Veritas框架,构建HydraFake数据集,赋予大模型“模式感知推理”能力,实验效果超现有检测器,还给出未来研究方向。