「多token预测」共找到 4892 篇相关文章
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
谷歌新模型登顶Nature，人类基因密码被解码
谷歌推出全新AI工具AlphaGenome，能精准预测人类DNA序列变异对调控基因生物过程的影响。它满足多项条件，在26个变异效应benchmark中25个达SOTA，还通过多个案例和实验验证了其性能。
半量工具，双倍效能：ARPO革新大模型强化学习
大语言模型在多轮工具调用场景有挑战，传统强化学习算法有探索效率低和资源消耗大问题。本文提出ARPO，通过量化token熵分布变化设计自适应探索机制，降低工具调用成本且提升多轮推理性能。
数学编码超越O3-high，英伟达版「DeepSeek R1二代」推理模型开源~
Nvidia开源OpenReasoning-Nemotron系列模型合集，采用Qwen2.5架构，基于500万条轨迹训练。评测输出长度最高64K token，多版本刷新SOTA。其‘heavy’模式有独特能力，32B版在数学与编程基准超越O3（High）。
OpenAI 广告续命遭全网骂，用户要跑路 Gemini！需烧 400 亿，18 个月破产预警
OpenAI 计划在 ChatGPT 对话界面测试广告投放，引发社区热议，批评居多。此举是为拓展营收，缓解成本压力。其算力投入与营收均大幅增长，但仍面临算力缺口，加入广告坚守三大原则，不过有预测称其 18 个月内或破产。
Code Arena全球可用模型第一！智谱GLM-5.2上线并开源
智谱上线并开源GLM-5.2，在Code Arena等平台表现优异，长任务跑分出色，架构有突破，支持100万token上下文，还引入控制功能。模型在常用编程智能体可用，适配国产算力平台，以MIT协议开源。
上周 GPT 和 Codex 各有一个发布，很多人没注意吗？可以解锁 Codex 百万上下文了
最近基模发布多，OpenAI 俩更新被低估忽略。一是 GPT - 5.6 Sol 的 Ultrafast 模式，输出最高达每秒 750 Token，先向少量 API 客户开放；二是 Codex 为其开放百万上下文能力，不过大窗口有代价。
AI问答，直接「拍」给你看！来自快手可灵&香港城市大学
来自快手可灵团队和香港城市大学的研究者提出「视频作为答案」任务范式，发布VANS模型。它由视觉语言和视频扩散模型构成，通过联合分组相对策略优化算法协同优化，在教学和预测应用上效果超现有模型。
告别「边画边说」：LatentMorph 开启视觉生成隐式潜空间推理新范式
现有的文生图模型缺乏动态思考与自我修正能力，香港科技大学团队提出LatentMorph框架，将隐式潜空间推理集成到T2I生成过程中，实验显示其显著提升基座模型性能，削减推理延时与Token消耗，实现人机认知对齐。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。