「推理与计算」共找到 7989 篇相关文章
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
1000 行 Java 代码手搓 OpenAI gpt-oss 推理引擎
2025年8月OpenAI发布gpt - oss，作者受相关项目启发，用约1000行Java代码实现gpt - oss推理引擎并发布在亚马逊官方github。文章分享开发体会，介绍模型架构、Java实现、性能优化等内容。
大模型结构化推理优势难复制到垂直领域！最新法律AI评估标准来了，抱抱脸评测集趋势第一
多个机构研究人员联合发布全新多语言法律推理基准数据集LEXam，它含4886道题，每道长篇题有答案和推理路径。研究显示现有大模型应对法律推理难，LEXam引入评估新模式，还对不同模型做了测试。
GPU为什么能取代CPU，成为计算领域无可争议的核心？
过去CPU是计算核心，如今GPU崛起取代之。二者架构不同，GPU并行处理强。人工智能、大数据等领域需其能力，软件支持助其普及，未来或融合创新，成计算领域主角。
开源多模态推理「破壁」时刻：MMFineReason助力4B逆袭30B
长期以来，开源多模态模型在复杂推理任务上与顶尖闭源模型有差距，核心痛点是高质量推理数据匮乏。上海AI实验室OpenDataLab团队开源MMFineReason框架及大规模数据集，小模型凭此实现性能逆袭。
NVIDIA 推出Rubin CPX，专为AI推理设计的GPU
NVIDIA发布专为大规模上下文AI推理设计的Rubin CPX GPU，性能提升显著，集成视频编解码器和长文本推理处理。新平台算力强，适用于代码生成与视频处理，多家公司将采用，2026年底上市。
Tool-Star：赋予大模型结合多工具推理的能力
文章提出Tool - Star框架，旨在解决大模型多工具协作推理难题。它从数据端到训练流程优化，让模型调用多种工具，在复杂计算和知识型推理任务表现卓越，还探讨了未来多模态及多工具扩展方向。
深入理解OpenClaw技术架构与实现原理（上）
文章深入解析OpenClaw技术架构与原理，它以Gateway为核心，是高度灵活的个人AI助手系统，改变了软件开发范式。涵盖统一控制平面、推理循环、定时任务等多模块。如Gateway负责消息路由等，推理循环控制运行逻辑。
丛乐创办Acelegen：用基因编辑让活细胞成为可编程计算平台
过去五年AI重塑生物技术。CRISPR基因编辑技术开发者丛乐联合创立Acelegen，集成过往成果，欲把活细胞变成可编程计算平台，其愿景是找到“生命的Scaling Law”，独特性显著但答案待揭晓。
诺奖、金牌与SOTA：谷歌2025八大领域核心突破年终回顾
2025年是AI成为社会基础能源的关键转折点，谷歌通过全栈自研与生态标准双轮驱动构建智能基础设施帝国。从模型推理到科学发现领域均有突破，如Gemini 3系列、Ironwood芯片等，还在各领域有诸多应用与探索。