「上下文token」共找到 1262 篇相关文章
Qwen又立功，全球最快开源模型诞生，超2000 tokens/秒！
全球最快开源大模型K2 Think诞生，速度超2000 tokens/秒，由阿联酋机构与公司合作推出，基于Qwen 2.5 - 32B打造。实测速度快且答案准确，主要为数学推理开发，团队已发布技术报告。
输出token永久免费！Jev爆火后，开源版也跟着火了
本文报道OpenAI前研究员Diogo Almeida推出新型决策模型Jev，砍掉传统LLM文本生成功能仅专注判断，速度提升数十到上百倍，输出token永久免费，爆火后同思路开源模型Nimble随即上线。
微调已死？Agentic上下文工程登场，无需微调实现模型进化
斯坦福大学等团队提出 Agentic Context Engineering 技术，让语言模型无需微调自我提升。它将上下文视为作战手册，引入三种协作角色与三项创新，实验显示其在两类任务上表现优异，成本和延迟显著下降。
上下文就是一切！行业热议话题：提示工程是否应该改名
AI圈热议提示工程是否应改名“上下文工程”。Shopify CEO等发表看法，指出其在LLM应用和AI Agent构建中很重要，还分析了重要性、优化方法，给出实践经验，强调要在性能、成本和准确性间平衡。
超越 Prompt 和 RAG，「上下文工程」成了 Agent 核心胜负手
本文称「上下文工程」成 Agent 核心胜负手，它指在正确时间为 Agent 提供正确信息，超越 Prompt 和 RAG。文章归纳五大策略，如转移、压缩等，并结合 *The Bitter Lesson* 启示，探讨构建面向未来的 AI Agent。
视觉Token注入CLIP语义，走向多模态理解与生成新范式
腾讯ARC Lab等机构提出全新视觉分词器TokLIP，将低级视觉Token与高级CLIP语义结合，支持端到端自回归训练，可接入LLM框架，降低计算与数据门槛，在多模态任务中表现优异，代码已开源。
神秘模型「大象」：仅100B拿下SOTA，Token效率超高！
神秘模型「大象」面纱揭开，它出自蚂蚁Inclusion AI团队，仅100B大小，是同规模SOTA且省Token。经多方面实测及权威榜单评测，它快、准、省，能胜任多数日常工作，但也有不擅长的领域。
刚刚，Jev全网解禁！1.2亿Token限时免费用
本文报道TypeSafe AI旗下专做结构化决策判断的AI模型Jev全网解禁，开放所有用户直接使用，新用户赠送1.2亿Token额度且输出免费，Jev配合大模型的玩法引发全球开发者热潮，展示了多个实用落地场景。
Token消耗暴降80%，Cloudflare让服务器原生支持Markdown：OpenClaw要笑醒了
Cloudflare发布Markdown for Agents功能，让Web服务器可向AI Agent投喂Markdown数据，抛弃臃肿HTML，Token消耗降80%，还引入内容信号机制，有手动挡工具，功能处Beta阶段，可免费启用。
免训练加速61倍！陈怡然团队新作DPad：仅关注「彩票token」
杜克大学陈怡然团队新作DPad，发现扩散大语言模型关注少量「中奖」token，推理速度可提61 - 97倍，还增强模型语境学习能力。DPad免训练零成本挑关键信息，实现「少算多准」。