「Token 工程」共找到 1340 篇相关文章
Qwen又立功,全球最快开源模型诞生,超2000 tokens/秒!
全球最快开源大模型K2 Think诞生,速度超2000 tokens/秒,由阿联酋机构与公司合作推出,基于Qwen 2.5 - 32B打造。实测速度快且答案准确,主要为数学推理开发,团队已发布技术报告。
超越 Prompt 和 RAG,「上下文工程」成了 Agent 核心胜负手
本文称「上下文工程」成 Agent 核心胜负手,它指在正确时间为 Agent 提供正确信息,超越 Prompt 和 RAG。文章归纳五大策略,如转移、压缩等,并结合 *The Bitter Lesson* 启示,探讨构建面向未来的 AI Agent。
视觉Token注入CLIP语义,走向多模态理解与生成新范式
腾讯ARC Lab等机构提出全新视觉分词器TokLIP,将低级视觉Token与高级CLIP语义结合,支持端到端自回归训练,可接入LLM框架,降低计算与数据门槛,在多模态任务中表现优异,代码已开源。
黄仁勋:每天都在用AI,提示工程可以提高认知水平
黄仁勋在CNN访谈称每天用AI,认为提示工程是高级认知技能,AI会重塑工作非消灭岗位,还提及中国市场重要性,宣布H20获批入华、将发新显卡RTX Pro,不过其他专家看法不一。
从狂热到工程、组织实践,OpenClaw这阵风能刮多久?
OpenClaw在中国开发者圈引发热潮,英伟达黄仁勋赞誉其为增长最快的开源软件。3月21 - 22日OpenClaw中国行将在12座城市同步举行,活动围绕其规模化使用、企业落地等具体问题展开,标志着其从热梗走向工程实践。
神秘模型「大象」:仅100B拿下SOTA,Token效率超高!
神秘模型「大象」面纱揭开,它出自蚂蚁Inclusion AI团队,仅100B大小,是同规模SOTA且省Token。经多方面实测及权威榜单评测,它快、准、省,能胜任多数日常工作,但也有不擅长的领域。
Token消耗暴降80%,Cloudflare让服务器原生支持Markdown:OpenClaw要笑醒了
Cloudflare发布Markdown for Agents功能,让Web服务器可向AI Agent投喂Markdown数据,抛弃臃肿HTML,Token消耗降80%,还引入内容信号机制,有手动挡工具,功能处Beta阶段,可免费启用。
免训练加速61倍!陈怡然团队新作DPad:仅关注「彩票token」
杜克大学陈怡然团队新作DPad,发现扩散大语言模型关注少量「中奖」token,推理速度可提61 - 97倍,还增强模型语境学习能力。DPad免训练零成本挑关键信息,实现「少算多准」。
谷歌杀疯!百万token神器免费开源,Claude和Codex都顶不住了?
谷歌开源免费AI编程工具Gemini CLI,权限拉满,有百万token上下文、千次调用额度,打通VS Code与终端。它与OpenAI、Anthropic竞争,功能不止写代码,还支持多通用任务,谷歌这次来真的!
解决算力瓶颈,给多模态瘦身!Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余,提升训练与推理效率。北大等团队剖析其全貌,给出完整图谱与选型指南,还揭示了未来演进路径。