搜索：推理框架开发

「推理框架开发」共找到 4680 篇相关文章

MCP高手进阶【一】：彻底弄懂生命周期管理器（Lifespan）的机制与用法

文章深入解读MCP SDK开发高级技巧，聚焦生命周期管理器（Lifespan）机制与用法。先介绍Python上下文管理器，再讲FastAPI的lifespan，接着说明MCP Server的使用流程，最后分析不同传输模式下的工作方式。

作者作为高德信息工程团队AI先锋队一员，日常用Cursor开发，因好奇其代码库索引机制展开探索。介绍了Cursor索引工作流程、隐私安全等，还研究Merkle树、turbopuffer向量库及开源方案Continue。

麻省理工学院提出自适应语言模型框架SEAL，让大模型生成微调数据和更新指令适应新任务。实验显示，其生成的合成数据微调效果超GPT - 4.1，在少样本学习和知识整合任务表现优异。

AI Agent开发易陷入复杂维护困境，借鉴云原生思路，一些云原生产品朝着AI gateway进化。介绍开源项目Arch Gateway，它是AI原生gateway，具备智能路由、工具调用等能力，能让开发者专注核心业务逻辑。

苏黎世联邦理工学院团队让机器狗靠强化学习学会打羽毛球，开发全身视觉运动控制策略，使其最高挥拍速达12米/秒，还涌现类人回位行为，研究证明足式机器人在体育场景应用可行。

WAIC期间，蚂蚁数科金融推理大模型发布会未开，论文已上线。其新模型Agentar - Fin - R1有8B和32B版，在金融测评集超DeepSeek等，还兼顾专业与通用，蚂蚁数科还提出评测基准Finova。

AI 工具已嵌入 Uber 软件开发各阶段，智能体请求量增长 9.4 倍，但 AI 总支出自 4 月相对稳定。文章介绍其软件工厂思考，包括智能体会话层级、成本公式、指标测算及优化手段，还提及未来举措。

M-Flow记忆引擎引发海外开发者社区热议，GitHub star破千，在三大公开benchmark评测中夺冠。它由19岁团队心流元素开发，采用Cone Graph分层结构，实现Graph RAG新范式，更注重联想，而非单纯搜索。

文章聚焦Infinity-Parser，指出它把OCR从‘做识别’推进到‘做结构’。它采用layoutRL强化学习框架，结合真实与合成数据构建Infinity-Doc。跑分强且复杂结构表现优，透露Document AI向结构化生成转变趋势。

2026年3月16日，黄仁勋在GTC演讲中称AI计算需求至少达1万亿美元，实际或更高。他回顾AI三次拐点，介绍推理时代超级计算机Vera Rubin，还发布OpenClaw等软件，成立开源模型联盟，展示各行业应用，强调共封装光学重要性。