「LLM推理」共找到 2764 篇相关文章
如何“驯服”你的Agent？这可能是你见过最优雅与可控的Agent框架 | 深度体验
文章聚焦对话式Agent，指出LLM不确定性是企业应用Agent的障碍。介绍Parlant框架，它用ABM方法控制交互，能降低LLM负担、处理边缘场景。还通过构建10086客服助手展示其使用，最后与LangGraph对比。
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
DeepSeek R1 迎来小更新大升级，性能直逼 OpenAI o3！
昨日，DeepSeek 发布 R1 大模型最新版本 DeepSeek - R1 - 0528 并开启公测。虽官方未附详细技术说明，但用户反馈推理和输出有改进，也有性能方面的不同看法，其在基准测试表现佳。
o3绞尽脑汁仅答对40%的题目，开源模型基本乱猜？MMSI-Bench：多图空间智能试金石
文章介绍了MMSI - Bench，这是用于评估MLLM多图像空间推理能力的VQA基准。它人工构建样本、全面分类任务、采用多样真实数据。实验显示MLLM在多图像空间推理有短板，还开发自动化错误分析流程助力改进。
实时交互式长视频生成
文章提出用于实时交互式长视频生成的帧级自回归框架 LongLive，解决了长视频生成在效率和质量方面的挑战，具备长视频生成、实时推理、高效微调等亮点，还给出安装、推理、训练等步骤。
GPT-5仅23.3%，全球AI集体挂科！地狱级编程考试，夺金神话破灭
最新基准测试SWE-Bench Pro评估AI编程智能体，直面真实企业级工程任务。顶尖模型几乎溃败，GPT - 5仅23.3%。该测试解决现有基准数据污染、任务简单问题，能成未来LLM编码能力标尺。
英伟达的AI已经开始接管整个项目了？SATLUTION自主进化代码库登顶SAT竞赛
NVIDIA Research提出SATLUTION框架，将LLM代码进化能力扩展到完整代码库规模，能处理复杂项目。它协调LLM智能体对SAT求解器代码库迭代优化，在SAT竞赛中超越人类冠军，成本低且效率高。
Claude与人类共著论文，苹果再遭打脸！实验黑幕曝光
苹果一篇质疑大模型推理能力的论文引发争议。Open Philanthropy研究人员联手Anthropic发表论文，揭露苹果论文三大缺陷，指出部分测试无解却让模型“背锅”，还给出正确评价大模型推理能力的方法。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
谷歌最强具身大脑发布！波士顿机器狗瞬间人模人样
Google DeepMind发布机器人推理模型Gemini Robotics - ER 1.6，搭载它的波士顿动力机器狗能精确读仪表数字。该模型是第三代，在空间推理等方面显著提升，还新增读仪表能力，且是谷歌迄今最安全的机器人模型。