「推理部署」共找到 2645 篇相关文章
阿里发布信息检索Agent，可自主上网查资料，GAIA基准超越GPT-4o | 模型&数据开源
阿里发布WebDancer信息检索Agent，能自主上网查资料。它具备多步推理等能力，采用四阶段训练范式，模型和方法已开源。在多个基准测试中表现优异，突显处理复杂任务的鲁棒性和有效性。
DeepSeek研究员1200行代码复刻vLLM，H800硬件实测性能反超原版
DeepSeek研究员俞星凯搞出开源项目Nano - vLLM，仅用不到1200行代码实现最小化且完全可读的vLLM。它有快速离线推理、代码可读性强、含优化套件等特点，在H800硬件实测中性能反超原版vLLM。
RF-DETR-首个突破60 AP的实时检测器（附实战教程）
RF-DETR在COCO数据集上，实时检测精度首破60 mAP，兼顾实时性与高精度。它通过NAS找到Transformer实时运行的‘最优解’，迭代快，适用于多场景，还给出完整实战教程。
GPT-5.4发布，AI的最强之争已经结束了！
GPT-5.4发布，作者对比OpenAI、Anthropic、Google三家模型数据发现它们不在同赛道。GPT-5.4适合白领工作，Claude擅编程，Gemini重推理与性价比，且OpenAI因合同问题流失用户。
高效智能体的「幕后推手」是谁？一篇综述带你从记忆×工具学习×规划看透
随着大模型能力提升，业界关注智能体落地，而高效性是决定能否上线的‘硬’问题。论文梳理‘高效智能体’综述，从记忆、工具学习、规划三机制出发，还谈及基准评测、挑战与展望。
【万字长文】大模型开源开发全景与趋势解读
本文以蚂蚁开源团队视角，基于OpenDigger数据，分析大模型开源开发生态。呈现2025年全景图，涵盖135项目。指出训练、推理、应用侧主导领域，还探讨生态趋势、项目兴衰及近期厂商动态。
刚刚，OpenAI新Transformer火了！Astra架构首次曝光
OpenAI下一代Astra采用「循环深度」推理方法，思考Token减少但性能提升，不过其思考过程难监控。此前业界已对「循环Transformer」有研究，该架构适合数学编程任务，Astra实力获验证，GPT - 6或即将发布。
商汤SenseNova U1深度拆解，原生统一架构终结缝合时代
文章深度拆解商汤科技开源的新一代模型「日日新 SenseNova U1」，介绍其基于 NEO - Unify 原生统一架构，在数据、训练与推理深度协同，多维度测试成绩亮眼，代表多模态从拼接走向原生建模新方向。
开源即登榜！登顶全球前十AI编程智能体，UCL初创团队开源Prometheus
UCL初创团队EuniAI开源AI软件智能体Prometheus，在SWE - bench Verified上Pass@1达71.2%，成绩入官方主榜。它有图结构推理设计，能理解代码，成本低，官网有Demo展示其工程化能力。
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。