「推理token」共找到 2499 篇相关文章
养虾人狂吃国产模型！4.19万亿Token调用量激增34.9%超越美国
根据OpenRouter数据，上周中国大模型周调用总量飙升至4.19万亿Token，再度超越美国登顶全球。中国产品在全球大模型调用量Top 5中占三席，国产大模型受青睐，但在速度和价格方面仍待提升。
从RLHF、PPO到GRPO再训练推理模型，这是你需要的强化学习入门指南
强化学习是当今LLM重要技术，Unsloth团队发布教程，从吃豆人谈起，介绍RLHF、PPO到GRPO，分享用GRPO训练推理模型技巧，涵盖相关概念、训练方法及奖励函数设计等内容。
华人学生立大功！新王Mamba-3直击Transformer死穴，推理效率碾压7倍
新一代开源架构Mamba-3发布，由CMU普林斯顿原班人马打造，15亿参数性能比Transformer高4%，长序列任务端到端延迟仅为其七分之一。它采用新设计哲学，推理优先，有三大核心技术，还能与自注意力层混合提升检索能力。
刚刚，OpenAI最强推理模型o3-pro诞生！碾压Gemini 2.5 Pro击穿底价
OpenAI昨夜官宣上线最强推理模型o3 - pro，还将o3价格暴降80%。o3 - pro专为深度思考和提供超可靠答案而生，在多项测试中表现优异，虽有速度慢等限制，但优势明显，网友实测效果惊艳。
语义分割别无脑用Argmax！港中文新算法：三行代码，推理速度提升10倍
香港中文大学提出全新算法框架RankSEG提升语义分割性能。传统方法用threshold或argmax生成掩码并非最优，RankSEG无需重训模型，加三行代码就能提高分割指标，还开源了工具包，其改进版RankSEG - RMA推理速度大幅提升。
GPT-5难产内幕曝光！核心团队遭挖空，推理魔咒难破，靠英伟达续命
外媒The Information曝出GPT-5诞生内幕，其未取得技术突破，OpenAI面临数据瓶颈与技术难题，核心研究者被撬导致组织架构混乱。不过，OpenAI获巨额融资，推理模型成突破口，还在开发“通用验证器”。
OpenAI发布GPT-5-Codex：独立编码7小时，能动态调整资源，token消耗更少
OpenAI发布专用于编程的GPT-5-Codex，属GPT-5特殊版本，有即时协作和独立执行的‘双模’特长。它能动态调整资源，token消耗少，擅代码审查。文中还介绍其命名由来及编程智能体竞争情况。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
OpenAI重新开源！深夜连发两个推理模型，o4-mini水平，笔记本、手机可跑
OpenAI 自 GPT - 2 后重新开源，此次连发两个推理模型 gpt - oss - 120b 和 gpt - oss - 20b。它们性能达 o4 - mini 水平，可在笔记本、手机运行，有宽松许可等亮点，在多测试中表现出色。
OpenClaw引爆纽约集会，虾教日烧10亿tokens！老黄认证：史上最强软件
OpenClaw在全球掀起热潮，黄仁勋称其为史上最强软件。多地活动火爆，有人日烧10亿tokens。现场人们养AI员工，还暴露出网络安全问题。它或成消费级AI智能体转折点，引发行业变革。