「LLM推理」共找到 2762 篇相关文章
即将开源 | 阿里云Tair KVCache Manager：企业级全局 KVCache 管理服务的架构设计与实现
阿里云Tair KVCache团队联合多团队将开源Tair KVCache Manager，介绍其架构设计与实现。该服务应对Agentic AI下KVCache存储挑战，解决传统模式难题，具备企业级管理能力，后续还会完善多方面功能。
舍弃自回归，离散扩散语言模型如何演化？NUS综述解构技术图谱与应用前沿
本文介绍新加坡国立大学xML团队的论文，梳理离散扩散方向研究图谱，对比自回归局限与离散扩散优势，阐述数理基础、模型生态、训练与推理技术，还提及应用及未来方向，显示其对自回归范式的替代潜力。
苹果新研究：不微调、不重训，如何让AI提问效率暴增6.5倍？
苹果与牛津、港城大合作提出 BED - LLM 方法，能让 AI 解决问题能力提升 6.5 倍，无需微调重训。它基于序贯贝叶斯实验设计框架，通过三重智慧设计，经测试全面超越基准方法，或开启‘智慧对话’时代。
7B打败o3、GPT-5！医学AI智能体让模型学会“看哪里、怎么看”
上海创智学院LeapQuest团队联合多校，在ICML 2026接收两篇论文，提出“Think with Images/Think with Videos”范式，让视觉证据参与模型推理，Ophiuchus和MedScope分别用于图像和视频诊断，表现出色。
壁垒在上下文，不在模型
特赞科技发布企业级智能体系统 GEA，推出发散推理模型和企业上下文系统。指出模型能力易复制，企业上下文才是壁垒。GEA 架构分四层，有独特的推理和执行模式，已在多家企业部署。
JustGRPO：扩散语言模型的极简主义回归
本文提出回归极简的方法 JustGRPO，在 RL 阶段让模型自回归生成，用标准 GRPO 训练，能超越各类针对 dLLM 设计的 RL 算法表现，提升推理表现同时保留并行解码能力。
字节发了个机器人全能大模型，带队人李航
字节推出Seed，其Robix视觉—语言单模型能搞定机器人推理、任务规划和自然语言交互，核心采用思维链推理和三阶段训练策略，效果超Qwen2.5 - VL、GPT - 4o等，负责人是李航。
中国团队让AI拥有「视觉想象力」，像人类一样脑补画面来思考
上海交通大学等团队提出 Thinking with Generated Images，让大模型像人类一样用「脑内图像」推理。该研究区分三种视觉思维模式，提出核心技术框架，解决视觉推理局限，实验效果好，未来有望在多领域突破。
DeepSeek点燃大模型效率之争，阶跃火速接棒：JetSpec让大模型解码速度最高提升近10倍
近期，DeepSeek发布DSpark，阶跃星辰发表JetSpec论文，二者聚焦大模型推理效率。DSpark关注验证效率，JetSpec从Draft生成本身入手。结果显示，二者都有加速效果，共同表明推理效率正成Agent落地关键变量。
nndeploy：一款基于可视化工作流的AI部署工具
nndeploy是简单易用且高性能的AI部署框架，可将推理优化转化为可视化工作流，无需前端技术栈。它还提供端侧完整AI部署方案，有多端推理等功能，介绍了使用方法与技术原理。