「Token 效率」共找到 1763 篇相关文章
新闻资讯7
我在618主场，和3位顶尖技术博士聊了聊
本文讲述了作者在618与京东三位技术博士的交流。长林主导同品判别系统优化，采用模型蒸馏和数据筛选提升效率；星衍负责物流机械臂项目，强调打透场景；初雪专注语音识别，提升识别准确率和探索创新方向。京东还推出TGT计划吸引人才。
量子位
新闻资讯7
今起Codex每天重置一次！Tibo义父：首次3小时后发放，重置时间可自选
今起付费却无法用GPT - 6 Astra的用户，每天能重置额度一次，首个额度不到3小时发放，可自选重置时间。还提到GPT - 6做长程任务超272K tokens部分不增额度消耗倍率，开放时间待定。此外介绍在其开放前可做的3件事。
量子位
开源动态7
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。
GiantPandaLLM