「Next-Token推理」共找到 2527 篇相关文章
R-HORIZON：长程推理时代来临，复旦NLP&美团LongCat重磅发布LRMs能力边界探测新范式
复旦大学与美团LongCat Team联合推出R - HORIZON，它是首个系统性评估与增强LRMs长链推理能力的方法与基准。提出Query Composition方法构建评测基准和训练数据，评测发现主流模型长链推理性能断崖式下降，还分析出三大瓶颈，训练后模型性能双重提升。
Token是这个时代最伟大的发明
博主黄益贺认为AI称得上科技革命，因其带来信息形态与交互方式的根本性变革，而这都归功于Token。Token实现信息形态大统一，带来信息交互方式变革，让信息可被自由召唤、定制化显现。
Mistral的首个强推理模型：拥抱开源，推理速度快10倍
本周二，欧洲人工智能公司 Mistral AI 发布全新大语言模型 Magistral 系列，有企业版 Magistral Medium 和 24B 参数开源版 Magistral Small。它推理强、多语言表现好，速度比竞品快 10 倍，应用于主流云平台，成本有竞争力。
Google 发布 Gemini 3.1 Flash-Lite：每秒 363 tokens，百万 token 只要 $0.25
Google发布Gemini 3.1 Flash-Lite，输出速度达363 tokens/秒，比上一代快45%，首个token响应快2.5倍。价格降低，输入$0.25/百万tokens，输出$1.50/百万tokens。跑分不错，还有动态思考功能，支持多模态输入。
推理时扰动高熵词，增强LLM性能
香港科技大学（广州）研究团队发现LLM推理时，一小部分高熵词显著影响输出正确性。基于此提出MTI方法，含Selective CFG intervention与Lightweight negative - prompt guidance，无需额外训练，能提升模型推理能力。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。
当 Token 成为商品，AI 基础设施会怎么变化？
在大模型时代，智能生产和交付未实现工业化，存在性能鸿沟。九章云极提出AI工厂战略，发布Alaya NeW Cloud 3.0，将从资源计量转向智能计量，打造训练和Token工厂，提升算力到有效Token的转化效率。
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。