「推理服务基础设施」共找到 2930 篇相关文章
Test Time Scaling Law远未达到上限! o4-mini仅15.8%通过率，华为诺亚提出代码HLCE终极基准
华为诺亚研究员推出全新编程基准HLCE，含235道竞赛难题。实验显示，顶级LLM在该基准表现不佳，推理模型优势大，IOI交互式题难攻克。研究还发现模型自我认知与推理能力发展不同步，Test Time Scaling Law远未达上限。
DeepSeek-R1 更新，思考更深，推理更强
DeepSeek R1 模型完成小版本升级至 DeepSeek - R1 - 0528，用户可在官网、APP 等体验，API 同步更新。该版本强化深度思考能力，在多基准测评表现优异，还改善幻觉、提升创意写作等能力。
一个人+Claude+云服务，相当于一整个工程团队
网上两个实操演示被疯转，一是Google Cloud工程师用Claude配合Google云部署应用；二是Anthropic Claude团队教搭建带持久记忆的AI智能体。博主整理7天实操计划，将Claude变“全自动AI雇员”，还介绍多种AI雇员类型及成本。
鹿明发布NexCore：当机器人技能成为一种基础设施
8月19日鹿明机器人发布具身智能进化引擎Lumos NexCore，试图在数据、模型等与机器人间建立生产与运行链路，让机器人能力成可复用‘技能资产’，解决具身智能技能生产效率问题。
大规模替换数据库序列，保障百余个服务平稳运行
Coupang从关系型数据库迁移到NoSQL时，为解决序列替换问题，自研了专用解决方案。该方案采用双层缓存与滑动窗口预填充机制，以DynamoDB为数据源，让百余个服务无需重写代码完成迁移，性能和成本表现佳。
华南理工开源小智AI硬件后端服务，支持MCP。
华南理工大学刘思源教授团队研发开源后端服务项目 xiaozhi-esp32-server，基于人机共生智能理论，为 xiaozhi-esp32 硬件提供支持，采用多语言实现，支持 MCP 接入等功能，适配多配置方案。
AI 成为主流负载后，数据基础设施将如何演进？
随着AI应用爆发式增长，数据系统成为智能系统一部分。Apache Doris社区提出2026年主题‘Scale Intelligence, Accelerate Insight’，从场景和能力两方面阐述演进方向，以响应AI时代数据基础设施变化。
斯坦福开源复杂推理AI Agent，融合超10种工具
传统AI助手应对复杂任务能力有限，斯坦福开源OctoTools，这一复杂推理AI Agent融合11种工具。它在16项基准测试中准确率高，能应对多领域复杂场景，框架含工具卡片、规划器等构件。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。
AI Spot 学术分享会丨ICLR 2026 深度推理专场
当大模型走向深度推理，ICLR 2026 汇聚全球顶尖成果。OpenMMLab 等联合发起 AI Spot ICLR 2026 学术分享会，5 月 14 日 19 点直播，聚焦模型‘慢思考’，嘉宾将解读四大核心技术。