「Token 工程」共找到 1344 篇相关文章
开源 VibeSDK：把一句话变成线上应用，用它一键搭好自己的 AI平台
Cloudflare VibeSDK 是开源 AI vibe coding 平台，跑在 Cloudflare 开发者生态上，支持自然语言生成全栈 Web 应用，有分阶段代码生成、交互式聊天等功能，适用于多类人群和场景，还对比了同类项目。
AI太空竞赛？英伟达H100刚上天，谷歌Project Suncatcher也要将TPU送上天
11月2日英伟达将H100 GPU送入太空，谷歌宣布开展Project Suncatcher，2027年初发射原型卫星将TPU送上天。该项目利用太阳能卫星群，可扩展AI计算规模，谷歌还分享早期研究成果，不过仍面临工程挑战。
Airbnb 的 Mussel V2：下一代的键值存储，以统一流和批处理
Airbnb工程团队推出Mussel v2，对内部键值引擎彻底重构，统一流和批处理，简化运维、扩展工作负载。它结合NewSQL后端与Kubernetes控制平面，解决了v1的局限，迁移虽有挑战但成功完成。
LightMem用3招重新设计了LLM的记忆，结果出乎意料
LLM在超长多轮对话中有上下文窗口有限、记忆系统昂贵的痛点。LightMem借鉴人类记忆机制，用三招重新设计LLM记忆，实验显示其准确率超基线，还降低token使用量、API调用和运行时间。
快手Klear团队提出CE-GPPO：通过梯度保留协调熵，解决强化学习中的熵不稳定问题
快手 Klear 语言大模型团队提出新强化学习算法 CE - GPPO，以「熵」为核心，提出梯度保留策略，重新利用裁剪外区间低概率 token 的梯度，实现策略熵的精细调控，解决强化学习中熵不稳定问题。
LLM记忆管理终于不用“手把手教”了，新框架让智能体自主管理记忆系统
加州大学圣地亚哥分校和斯坦福大学研究人员提出强化学习框架Mem-α，用于训练LLM智能体自主管理记忆系统。它将记忆构建转为序列决策问题，采用多维度奖励函数，实验显示其全面超越现有方法。
DPad: 扩散大语言模型的中庸之道，杜克大学陈怡然团队免训推理加速61倍
扩散大语言模型（dLLMs）有全局规划能力，但存在计算冗余。杜克大学陈怡然团队揭示其“草稿纸机制”，提出免训练方法DPad，结合现有技术，能在几乎无损精度下实现高达61.4倍推理加速。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
人形机器人终于学会洗碗了
Figure机器人学会洗碗，用的是叠毛巾和分包裹同款Helix架构，无新算法和特殊工程，仅增加新数据。该架构是端到端“视觉 - 语言 - 动作”模型，同一系统增数据就能学新技能。
EMNLP 2025 浙大&蚂蚁 | 提出动态压缩CoT推理新方法：LightThinker
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理时产生大量中间步骤和文本，拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker，可动态压缩推理步骤，降低内存占用和计算成本。