「Next-Token推理」共找到 2550 篇相关文章
都在卷「让大模型多循环几遍」，这个7B模型LoopCoder v2说：多循环 1 次就够了
当下推理模型流行在测试时多循环，以打磨答案。但新研究发现，7B模型LoopCoder v2只多循环1次（共2次），就能大幅提升性能，继续增加循环次数，性能反而下降。研究还分析了收益与成本，给出选择循环次数的诊断方法。
DeepSeek流量暴跌？AI大模型全球霸主离奇遇冷，外媒曝出真相
曾以低价高性能出圈的DeepSeek，在自家平台遇冷、市场份额下滑，但其R1和V3模型在第三方平台使用量增长近20倍。背后是‘Token经济学’及战略转移，它开源模型，将算力留作研发。Anthropic也因算力受限有类似问题。
谷歌Nano Banana Pro炸了！硅谷AI半壁江山同框，网友：PS已死
谷歌推出基于Gemini 3 Pro的图像生成模型Nano Banana Pro，在图像编辑和生成上实现史诗级进化，有更广知识储备、超强文字渲染和精准细节把控。它支持4K原生，知识推理强还能直连搜索，玩法多样但也有改进空间。
AI圈“集体开大”！DeepSeek、Claude带头，智谱、阿里、蚂蚁、智源都“卷”起来了
双节前最后一天，AI圈“卷”疯了！智谱发布并开源GLM - 4.6，是国内最强Coding模型；阿里介绍视、听、说全模态同传大模型Qwen3 - LiveTranslate - Flash；蚂蚁开源万亿参数推理大模型Ring - 1T - preview；智源开源跨本体基座大模型RoboBrain - X0。
出了两道真题考 GLM-5.2，Opus 4.8 和GPT 5.5 陪跑
作者对GLM - 5.2、Opus 4.8和GPT 5.5进行两项测试。一是审计Skill体系，GLM - 5.2覆盖skill数多、找出冲突多，还挖出bug；二是做世界杯夺冠推演器网站，Opus表现出色，GLM - 5.2省token，Codex有巧思但结构有缺陷。
ChatGPT正式上线广告主平台，AI产品从今天开始走向分裂。
今日凌晨，OpenAI更新ChatGPT，上线非推理模型GPT - 5.5 Instant，还官宣向企业主全量上线广告平台。此前广告已在部分地区测试，付费和未成年用户无广告，免费用户可选择关闭但功能受限。投放端向美企开放，出价高，这或成AI产品宿命。
今起Codex每天重置一次！Tibo义父：首次3小时后发放，重置时间可自选
今起付费却无法用GPT - 6 Astra的用户，每天能重置额度一次，首个额度不到3小时发放，可自选重置时间。还提到GPT - 6做长程任务超272K tokens部分不增额度消耗倍率，开放时间待定。此外介绍在其开放前可做的3件事。
蚂蚁·安诊儿医疗大模型：正式开源并登顶权威医疗榜单
近日，蚂蚁集团联合浙江省卫生健康委开源自研的蚂蚁·安诊儿医疗大模型。它基于蚂蚁百灵大模型架构，经深度训练，是参数规模最大的开源医疗模型。该模型在多评测中表现出色，有三阶段训练流程，架构高效、推理快，已开源助力行业发展。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。
老黄杀入OpenClaw战场！最强开源「龙虾」模型直逼Opus 4.6
英伟达推出新一代开源模型Nemotron 3 Super，专为大规模AI智能体打造，有1200亿参数，推理快、吞吐量高，性能直逼Claude Opus 4.6等。它解决了Agent应用的难题，还开源了相关数据和训练方法。此外，英伟达还在打造NemoClaw开源AI智能体平台。