搜索：推理优化与部署

「推理优化与部署」共找到 3538 篇相关文章

120页深度报告，搞懂今年大模型和应用的现状与未来

Innovation Endeavors合伙人Davis Treybig发布《State of Foundation Models》（2025），从七个维度剖析AI产业现状与趋势。报告指出，AI发展迅速，模型成本高且迭代快，应用渗透各行业，智能体崛起，市场结构变革，公司运作方式也在重塑。

尽管LLMs和VLMs在视频分析和长语境处理有进展，但处理数小时长视频有局限。微软提出智能体Deep Video Discovery (DVD)，以简洁框架在LVBench取得高准确率，将以MCP Server形式开源。

文章介绍用火山引擎Trae + MCP和豆包1.6构建“秒懂科研”的PaperAgent。对比其与传统开发范式，突出前者高效、低成本优势，还展示了PaperAgent技术栈及开发过程，体现AI云原生开发魅力。

南开大学和伊利诺伊大学厄巴纳 - 香槟分校的研究提出SearchAgent - X框架，解决大型语言模型驱动的搜索智能体效率痛点。它剖析制约效率的原因，通过两大‘加速引擎’优化性能，实验显示效果显著。

华盛顿大学等机构论文引爆AI界，其发现用虚假奖励训练Qwen2.5-Math-7B模型，也能提高MATH - 500成绩。虚假奖励对Qwen模型有效，但在其他模型上有限，凸显RLVR有效性与模型能力有关。

文章详细介绍大型语言模型（LLM）微调知识与实践，包括模型结构、参数量等知识，以及Prompt工程、数据构造、LoRA微调等技术点。还给出微调实践流程，介绍相关平台和框架，如星云、TuningFactory等。

Anthropic 首届开发者大会发布 Claude 4 系列，含 Opus 4 和 Sonnet 4 两型号，编码、推理能力强。Opus 4 处理长任务出色，是最佳编码模型；Sonnet 4 经济高效，被 GitHub 等采用。Claude Code 工具也正式发布。

AI编程赛道发展火热但商业化难题凸显，国内外市场境遇不同。极狐GitLab CEO柳钢将困境转化为突破口，推出驭码CodeRider。他认为用AI赚钱时代已到，还分享对产品、商业、开源等方面的看法。

北京时间5月21日凌晨，谷歌在2025 I/O大会发布众多更新。模型层面，为Gemini 2.5 Pro引入新推理模型和2.5 Flash；谷歌搜索推出AI模式；还亮相视频模型Veo 3，编码助手Jules公测等。

论文《AI Agents vs. Agentic AI》深入探讨AI Agent和Agentic AI的本质差异。AI Agents是集成大模型和外部工具的单体系统，适合简单任务；Agentic AI是多智能体协作新范式，适合复杂场景。还提及挑战、解决方案与未来方向。