「Next-Token推理」共找到 2527 篇相关文章
关于多模态大模型Token压缩技术进展，看这一篇就够了
多模态大模型跨模态融合带来高计算成本，催生MLLM Token Compression研究。北大等机构人员基于压缩位置对方法系统归类，讨论特定场景压缩机制选择，还探讨了挑战与前景方向。
刚刚，OpenAI内部推理模型斩获IOI 2025金牌！所有AI选手中第一
OpenAI内部推理模型获IOI 2025金牌，总排名第6、AI组第1，沿用IMO金牌版本且未专门训练。商业模型在IOI表现不足，Grok 4相对领先。巨头热衷竞赛，源于竞争、技术迭代及多方利益考量。
用 AI 开发网站？这个 MCP 必装，Next.js 原生 MCP 已上线！
Next.js官方发布了自己的MCP，具备自动化调试等诸多功能，能增强代理在该框架下的开发能力。它可集成Playwright MCP，查询文档和最佳实践等，还说明了使用流程、提问方式及原理。
告别随机性：Thinking Machines Lab如何实现了LLM推理的完全确定性？
文章指出LLM推理非确定性根源并非GPU并发和浮点非结合性，而是批大小变化致核函数非不变性。作者提出实现批不变操作的策略，实验验证有效，还阐述其对训练、系统可靠性等方面的意义。
抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出，AI 竞赛中的混乱和挖角是噪声，最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板，强调系统性实验、高质量评估的重要性。
小模型推理极限在哪里？微博开源3B小模型，比肩顶级闭源
微博新开源的VibeThinker - 3B小模型，将特定能力维度性能推向极限。它在数学竞赛、编程等可验证推理基准上表现优异，成绩直逼顶尖大模型。其训练流程层层叠加，还提出参数压缩 - 覆盖假说。
龙虾之父参与的首个OpenAI项目：@开源贡献者，ChatGPT token免费送
OpenAI推出Codex for Open Source项目，由‘龙虾之父’Peter Steinberger宣传。该项目为开源贡献者免费送ChatGPT token，可申请API积分、免费用6个月ChatGPT Pro等，申请门槛不算高。
编程进入「对讲机」时代！Claude抢发语音写代码，转录Token全免费
Anthropic给Claude Code加语音模式，输入 /voice，长按空格说话即可输入，转录Token全免。OpenAI的Codex也更新类似功能。语音编程在Debug、架构讨论等场景好用，但识别变量名等仍有短板，未来编程将多模态。
刚刚，Anthropic 又出新货：Claude Opus 4.1 发布，代码、推理能力再升级
Anthropic发布Claude Opus 4.1，是对Opus 4的小升级，提升智能体任务、代码处理和推理能力。付费Claude用户等已可用，价格不变。在编程评测表现佳，获多方好评，官方建议升级。
不改模型、不降质量，谷歌让Gemma 4快了3倍：本地跑大模型彻底变天
谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。