「Token 工程」共找到 1340 篇相关文章
五倍推理加速，激发自回归潜能，苹果新工作让LLM预测未来
近年来自回归训练方法成语言模型主流范式，但推理阶段计算开销大。苹果研究人员开发框架，让预训练自回归大模型多 token 预测，代码和数学任务推理加速达 5.35 倍，一般任务约 2.5 倍。
股价暴涨32%！GLM-5登顶全球开源第一，25分钟一镜到底搓出完整系统
2026年初，智谱GLM - 5上线，它是全球首个在系统级工程能力上与硅谷巨头正面竞争的开源模型，发布后智谱股价暴涨32%。它能力惊艳，能完成复杂项目，成本可控，还适配国产算力。
大模型Agent的核心还是prompt？ 目前有什么挑战？
文章指出大模型Agent核心并非Prompt，而是工程化架构设计、工作流编排与数据闭环。介绍Flow Engineering等概念及工具，分析规划、记忆、工具使用要点，还谈及开发面临的延迟、稳定等挑战，并给出应对建议。
Agents统一综述：Harness、记忆、Skills和协议
上交大、中山大学等发表长文对LLM Agents中的记忆、Skills、协议与Harness工程进行统一综述。介绍了从权重到上下文再到Harness能力的三次迁移，阐述记忆、技能、协议系统及Harness工程，还分析了模块间耦合。
让AI自己“炼数据”！DataChef开源：用强化学习自动生成LLM数据配方
上海人工智能实验室联合复旦大学开源DataChef，它能通过在线强化学习自动生成LLM数据配方。实验显示其能力逼近Gemini - 3 - Pro，超越人类专家设计算法，解决传统数据工程难题，推动大模型数据工程迈向新范式。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。
Reasoning新突破：SoftCoT++如何让LLM‘多想几条路’？
LLM推理依赖‘思维链’，传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’，拆分‘思考’与‘推理’，用专用初始token和对比学习，实验中全面超越传统方法。
以为Anthropic全是科学家？数据告诉你，他们要的是基础设施老兵
Fonzi AI人才工程主管Seb分析1680份Anthropic工程师简历，发现其核心人才是资深基础设施建设者。工程团队18个月从零膨胀，Google是最大人才池，博士仅占13.7%，头衔扁平化。
Agent 形态一天一个样，Infra 到底该为谁而建？
过去一年，Agent 应用形态多变，但进入稳定生产环境的项目有限。清程极智师天麾认为，Agent Infra 重要性待显，当前应提高 Token 生产交付效率。还探讨了 Agent 发展问题、Token 相关指标及收费模式等。
ACL 2026｜答得更准还写得更短？华为泰勒实验室提出SHAPE，给LLM推理装了个「推理税」
华为泰勒实验室等团队提出 SHAPE，给推理链装「里程碑 + 推理税」机制。它分三步，能统一势能增益度量、阶段难度感知和 token 效率约束。实验显示，它提升准确率、降低 token 消耗，还解决了推理坍缩等问题。