「分布式推理系统」共找到 3593 篇相关文章
AI真有希望考清北了！豆包1.6多模态推理发威，闯关数理化带图大题
火山引擎原动力大会发布豆包大模型1.6，它是国内首款多模态SOTA模型，支持256k上下文长度。实测中它解答高考数理化带图大题表现出色，还具备图像识别、视频理解、GUI操作等能力。此外，火山引擎还推出系列工具和平台助力企业。
大模型推理上限再突破：「自适应难易度蒸馏」超越R1蒸馏，长CoT语料质量飞升
本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。
超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率
Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。
从实践到原则：为 AI Agent 构建的 Harness Engineering 落地与探索
生成式 AI 进入软件开发核心流程，但 AI 写代码速度超团队控复杂度能力。问题不在模型，而在软件工程系统。Harness Engineering 试图解决此问题，从三层面重新设计工程系统，已有公司实践。
黄仁勋CES2026最新演讲：三个关键话题，一台“芯片怪兽”
北京时间1月6日，英伟达CEO黄仁勋在CES2026演讲。回顾过去一年开源模型发展，本次围绕系统与基础设施、模型、应用落地三条主线演讲，展示Rubin架构等成果，推动推理型AI发展及应用。
LLM的快速、慢速与工具增强思维模式综述
大型语言模型在不同任务中对推理策略需求差异大，策略选择不当会影响效率与可靠性。本文提出双重知识边界框架，梳理LLMs推理模式，将策略选择形式化，还分析了决策因素及策略选择机制。
基于Spring AI Alibaba 的 DeepResearch 架构与实践
本文基于 SpringAI Alibaba Graph 构建 Java 版 DeepResearch 系统，实现信息搜集到报告生成的全自动流程。介绍系统能力、架构、核心功能节点及技术点，还阐述 RAG、搜索、MCP、报告生成等功能，给出使用、部署和社区参与方式。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
刚刚，GPT-5 横扫编程奥林匹克，5 小时打穿 12 题！人类最强队伍只能做出11道
2025年国际大学编程竞赛世界总决赛（ICPC）上，GPT - 5和OpenAI实验推理模型5小时解完12道题，超越人类最强队伍。Google DeepMind的Gemini 2.5 Deep Think获10/12。此成绩展示推理系统惊人进步。
实战案例｜当本体遇上 Agent：让 AI 真正“听懂业务”并“按规矩办事”【上】
本文是“企业级本体应用”系列第三篇，探讨本体如何融入企业智能体系统。指出本体非数据库或图谱，是语义层。介绍本体在Agent系统的架构与职责，通过案例展示用本体做规则判断和多维归类，凸显其优势。