Token 工程」共找到 1340 篇相关文章

开源动态8

万亿级思考模型,蚂蚁首次开源!20万亿token搅局开源AI

10月14日蚂蚁集团发布万亿参数思考模型Ring-1T,在多领域表现出色,推理能力直逼闭源巨头。此前已开源旗舰通用大模型Ling-1T。还介绍了训练技术创新,虽模型有不足,但开源夺冠证明‘思考力’可工程化。

新智元
推荐文章7

OpenAI 智能体工程指南:10 条实战技巧和 3 种构建模式

OpenAI 给出智能体工程实战手册,介绍用技能、Shell 工具和上下文压缩三 API 让智能体稳定工作。全文涵盖概念、10 条实战技巧、3 种构建模式,有实用案例但数据精确度存疑。

宝玉AI
新闻资讯7

AI大厂系统提示词泄露:2.7万token里,藏着最好的提示工程

GitHub上`system_prompts_leaks`仓库扒出Claude、GPT等AI系统提示词。这些提示词像事故档案,规则具体,其结构排序暴露优先级。普通使用者可借鉴,提升对AI提要求的质量。

AI Reading Hub
产品应用8

英伟达再破世界纪录,每秒1000 token!刚刚,全球最快Llama 4诞生

英伟达用Blackwell创下AI推理新纪录,单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳,如用TensorRT - LLM优化、应用FP8格式等,满足了低延迟需求。

新智元
推荐文章7

来自 Manus 的一手分享:如何构建 AI Agent 的上下文工程

Manus 公司联合创始人季逸超分享为 Manus 搭建上下文工程的经验。文章探讨构建 AI 智能体时的关键抉择,给出围绕 KV - Cache 设计、通过掩码约束行为等构建原则,助开发者少走弯路。

Founder Park
新闻资讯7

后Scaling Law时期的模型、token和组织 | 5Y Quarterly

文章是五源2026年第二季度回顾,涵盖对AI多方面观察,如token军备竞赛、模型资产价值、公司组织成护城河等,还提及被投企业上市、融资情况及五源资本获多项行业荣誉。

五源资本 5Y Capital
算法论文8

ETT:打破原生多模态学习视觉瓶颈,重塑视觉tokenizer优化范式

本文由多机构联合完成,针对传统视觉 tokenization 方法优化与下游任务训练割裂问题,提出 ETT 调优方法。它实现联合优化,在多模态理解、生成、重构任务表现出色,虽有局限但带来新突破。

机器之心
产品应用7

LangChain提出Agent工程化的新分层(Agent harness)

LangChain获新融资后重新定位为Agent基础设施提供商,将Agent开发分三层:Framework、Runtime、Harness。Vtrivedy提出Agent Harness概念,强调构建关键是“个性化定制基座”。Agent开发工程化成熟度在提升。

AI工程化
推荐文章7

面向 AI Agents 的高性能数据基座:架构和工程实践

在 QCon 全球软件开发大会上,晨章数据创始人陈亮分享了面向 AI Agents 的高性能数据基座。他指出 AI Agent 驱动的应用带来数据挑战,提出多模态数据基座设计目标,并介绍工程实践,证明传统架构有 CPU 瓶颈。

InfoQ
算法论文8

推理token减少46%!Meta新方法缩短思维链,告别重复推导

Meta等联合提出元认知复用机制,让模型总结解题思路,提炼为“行为”存于“行为手册”。实验显示,该机制在数学基准测试中显著优化,保持准确率时最多减少46%推理token使用量。

量子位