「Token设计」共找到 1909 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
The Batch：820 | Qwen3 向 DeepSeek-R1 发起挑战
阿里巴巴发布八个大型语言模型权重，含两个 MoE 架构和六个稠密模型。预训练数据达 36 万亿 token，支持 119 种语言及方言。测试中 Qwen3 家族表现出色，或终结 DeepSeek - R1 霸主地位，设计用于智能体系统。
上海交大DENG Lab提出「LatentUM」：Unified Model的真正「战场」在视觉推理与世界模型
上海交通大学 DENG Lab 提出的 LatentUM，尝试让统一模型把生成的视觉内容纳入推理闭环。它在多项任务上超越基线，其核心思路是生成与语言共享语义空间的离散 visual semantic tokens，模型含三大关键设计。
半量工具，双倍效能：ARPO革新大模型强化学习
大语言模型在多轮工具调用场景有挑战，传统强化学习算法有探索效率低和资源消耗大问题。本文提出ARPO，通过量化token熵分布变化设计自适应探索机制，降低工具调用成本且提升多轮推理性能。
曦望，死磕AI推理成本｜甲子光年
1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。
火速吃瓜：Kimi K2.6设计能力超越Claude Design
Claude Design刚冲击设计行业，就被中国的Kimi K2.6反超。Kimi K2.6设计能力强，价格比Claude Design便宜7倍，且“设计”只是副业。Anthropic拉软件大佬组联盟反击，胜负待察。
TRAE Work 上线 Design 模式：产品经理还需要 Figma 吗？
TRAE Work 上线 Design 模式，可将一句话描述变成可编辑设计稿，还能将设计稿转代码，在同一平台完成从需求到代码的链路。作者测试后发现其效率大幅提升，并分析了该模式与其他工具的区别及 AI 设计趋势。
机械手成精了：能变形、能爬行、自己抓东西，全程无人操控
武汉大学高霄团队设计出可拆卸爬行机械手，能像普通机械手抓取物体，还能脱落爬行够取远处物品。其完成全套取物任务，未来有望用于工厂、救援、家庭等场景。
Google DeepMind启动首个人类临床试验，目标：用AI攻克所有疾病
Google旗下Isomorphic Labs正准备启动AI设计药物的人体临床试验。该公司源于DeepMind的AlphaFold，目标是构建“世界级药物设计引擎”，用AI攻克所有疾病，引发网友热议。
Claude Code 工程师：像 Agent 一样思考
Anthropic 工程师 Thariq 分享构建 Claude Code 时 Agent 工具设计经验，通过 AskUserQuestion 工具迭代、Todo List 到 Task 系统演进等案例，指出工具设计无标准答案，要观察模型行为、反复实验。