「省Token策略」共找到 1574 篇相关文章
新闻资讯8
从MiniMax到DeepSeek:为何头部大模型都在押注「交错思维」?
昨日推特博主公布国内几大开源模型在 mini - SWE - agent 测试成绩,MiniMax 新一代大模型 M2 表现最佳。其采用的「交错思维」技术成亮点,解决了状态漂移问题,正成高性能 Agent 模型标配。M2 既强又省,还给出使用最佳实践。
机器之心
新闻资讯7
今起Codex每天重置一次!Tibo义父:首次3小时后发放,重置时间可自选
今起付费却无法用GPT - 6 Astra的用户,每天能重置额度一次,首个额度不到3小时发放,可自选重置时间。还提到GPT - 6做长程任务超272K tokens部分不增额度消耗倍率,开放时间待定。此外介绍在其开放前可做的3件事。
量子位
开源动态7
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。
GiantPandaLLM
8
APP推广,常用的100种英文名称解释
ASO工具箱里装着哪些英文专业名词?从AARRR到watchOS,一篇文章带你了解APP推广中常遇到的100个英文术语。