「Token优化」共找到 1812 篇相关文章
NVIDIA技术沙龙《强化学习流水线优化:性能分析与 Rollout加速》演讲笔记
该演讲笔记围绕强化学习流水线优化,强调用Nsight Systems做性能分析,介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧,如Actor训练和Rollout优化,还以Qwen 2.5 7B等模型为例总结参数调优经验。
新版 Android 插件登场,应用能瘦身 50%,Google 把代码优化和资源压缩合二为一
Google在新版Android Gradle Plugin引入资源压缩优化方案,合并代码优化与资源压缩。新方案让应用体积最高缩减50%,开发者有四种优化方式可选,AGP 8.12.0已提供该流程,AGP 9将默认开启。
航空学报|西工大袁昊、寇家庆等:基于预解分析的低雷诺数翼型优化设计方法
本文将预解分析引入翼型外形优化,构建流动系统线性化模型,以最大预解增益表征流动稳定性。建立优化框架获Opt.1和Opt.2构型,优化后翼型流动稳定性提升、气动性能改善,方法有外推潜力。
小红书 FinOps 实践:云成本优化与资源效率提升之道
在 InfoQ 举办的 QCon 全球软件开发大会上,小红书梁啟成分享云成本优化实践。介绍了小红书用云情况,分析成本优化面临的问题,阐述成本洞察和优化的探索,如内外账分离、CPU 和 GPU 资源提效等,还展望了 AI for FinOps 实践。
都标5美元,账单差三成!OpenAI高管:token从来没法直接比价
OpenAI Codex负责人Tibo指出,不同模型对同一段文字切分的token数不同,即便单token价格相同,最终账单也可能差异很大。他还提到,token无统一计量标准,跨厂商和新旧模型计数都难通用,真正重要的是每次成功结果的成本。
阿里+清华发现80/20法则:LLM只靠20%的token就能学会Reasoning
阿里与清华研究发现,训练大语言模型(LLM)推理时,真正关键的是20%的高熵token,其余80%低熵token几乎无用。仅用20%高熵token做强化学习,效果超全量训练,还提出RLVR训练策略提升效率。
腾讯混元AI Infra如何优化Hy3 Preview:一次大模型推理性能提升的技术拆解
文章聚焦腾讯混元AI Infra对Hy3 preview模型的推理性能优化。从算子优化与融合、并行策略等五大维度,剖析技术思路、算法及收益,如Attention算子单batch长文本最高加速2.95x,还提及后续显存优化等工作。
截击英伟达!OpenClaw狂吞Token,北大系芯片黑马剑指2000 Tokens/s
NVIDIA GTC 2026前夕,AI推理赛道竞争激烈。北大系寒序科技宣布融资,首颗样片测试跑通,单位面积带宽达100GB/s/mm²,下一代「MRAM+SRAM」架构目标2000 Tokens/s,挑战英伟达。
Token是这个时代最伟大的发明
博主黄益贺认为AI称得上科技革命,因其带来信息形态与交互方式的根本性变革,而这都归功于Token。Token实现信息形态大统一,带来信息交互方式变革,让信息可被自由召唤、定制化显现。
Google 发布 Gemini 3.1 Flash-Lite:每秒 363 tokens,百万 token 只要 $0.25
Google发布Gemini 3.1 Flash-Lite,输出速度达363 tokens/秒,比上一代快45%,首个token响应快2.5倍。价格降低,输入$0.25/百万tokens,输出$1.50/百万tokens。跑分不错,还有动态思考功能,支持多模态输入。