「LLM推理」共找到 2775 篇相关文章
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
如何像 Manus 交付业务需求-- OneAgent + MCPs 范式
文章介绍 Agent 发展历程，从单一 LLM 调用到 OneAgent + MCPs 范式。Manus 是 Loop 框架典型代表，将其与 Cline 开发范式结合企业 MCP Server，可完成多业务需求。同时指出该范式不足及发展方向，还介绍强化学习应用。
无需人类插手！AI战队自主进化，人类玩家瑟瑟发抖
论文《Agents of Change: Self - Evolving LLM Agents for Strategic Planning》以桌游《卡坦岛》为“考场”测试AI战略能力。研究团队设计四代AI特工，实验显示能自我进化的AI完爆静态AI，不过也存在计算成本高、依赖基础模型等问题。
伯克利斯坦福联手造出「科研预言家」：77%准确率押注研究想法前景
伯克利和斯坦福团队让GPT - 4.1变身「科研预言家」，从顶会提取想法对比案例训练，不借助实验验证，靠推理押注。其在公开题库测试、人类专家团战等测试中表现出色，还能预测AI新点子。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。
Web 开发 AI 就选它？V0复合架构无错误率 93.87% 远超 Claude 4 Opus 单体！
Vercel推出新AI模型v0系列，采用复合模型架构，将RAG专业知识、SOTA大模型推理能力和定制流式后处理模型结合，能提升代码生成质量，且基础模型升级时可快速替换，还训练了定制AutoFix模型。
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
打穿 AI 智商测试！GPT-6 Astra 的符号世界模型，是突破还是钞能力刷分？
OpenAI的GPT-6 Astra亮相，在ARC - AGI - 3测试成绩逼近100%，远超GPT - 5.6 Sol。它生成的符号世界模型被认为是AI迈向高级推理必经之路。不过出题人指出其靠Harness加持，离AGI还远。
Fable5仅做对3.5%！大模型会看图，但还没有主动视觉
本文介绍了专门测量「主动观察」能力的视觉推理基准 ActiveVision，评测显示无外部工具时，大模型与人类准确率有近 9 倍差距，用工具后虽提升但仍远不如人类，还说明了其出题与避免取巧的方式。
烧了1万块横测，你用的模型可能掉队了
作者花大成本从后端、人味、前端、推理等维度，对glm 5.2、kimi k3等国产模型进行测试，展示各模型在不同测试中的结果，指出国模2T俱乐部的kimi和qwen下限高，且刻板印象需改变。