「Token设计」共找到 1909 篇相关文章
Token烧不起了？比肩Claude Opus 4.6免费模型来了，还将开源
昆仑万维旗下天工AI发布SkyClaw - v1.0，为Agent场景深度优化，免费试用后将开源，价格低。性能超同级别开源对手，逼近闭源巨头。训练围绕环境构建、数据合成、强化学习展开，适合长链路Agent工作流。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
糟糕，Claude Opus 4.7源代码级提示词曝光！底层设计全被看光
Claude Opus 4.7如期而至，性能全方位提升，编程暴打Gemini 3 Pro、GPT - 5.1。Claude Code之父分享最佳实践，还曝光系统级提示词，揭示其进化逻辑，此外还提及Mythos的一些危险操作。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
蚂蚁集团扩散大语言模型新突破：超800Token/s，速度与质量兼得
蚂蚁集团将LLaDA更新到2.1，通过引入“草稿 - 编辑”机制，打破扩散模型推理速度与质量的对立僵局。它有极速和质量两种模式，还采用混合训练流程及强化学习，在多基准测试中表现出色。
阿里云Tair KVCache仿真分析：高精度的计算和缓存模拟设计与实现
阿里云Tair KVCache团队推出Tair - KVCache - HiSim，这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能，支撑计算选型、存储规划和调度协同等决策，还介绍了其架构、组件、验证及性能评估等内容。
字节发布通用游戏智能体！5000亿token训练，用鼠标键盘吊打GPT-5！
字节seed团队打造通用游戏智能体Game-TARS，基于键盘—鼠标动作空间训练，用超5000亿标注量级数据，结合新技术提升扩展性和泛化性，在多类游戏任务中表现超越GPT - 5等模型。
Z世代生存、学习与未来宣言！伯克利学霸预言课堂，用AI设计人生
本期OpenAI播客中，USC的Yabi和伯克利分校学生分享AI使用体验。谈及教授适应AI的教学转变、‘学习模式’特点、‘作弊’新定义，还大胆设想AI完成教育授课，人类导师培养社交技能。
AutoDev Remote 编程智能体：你何必只让 AI 在白天分析需求、设计方案
AutoDev Remote Agent 作为 AutoDev Workbench 一部分进入试运行，可运行在服务器，辅助项目分析规划、编写代码等。它是开源方案，代码可自由发布修改，还介绍了选择它而非 IDE 的原因及未来计划。
外国科学家从汉字中找到了设计超强材料的灵感！“天”字形材料最坚固
4月21日爱丁堡大学研究人员在《应用物理学杂志》发文，将“人”“大”“天”“夫”字形转化为超材料结构单元，经压缩实验发现汉字字形中藏力学规律，“天”字形材料性能最优。