「rollout预算分配」共找到 186 篇相关文章
AI 创业者想出海拿美元,搭好可融资的企业架构才是第一步
本文围绕AI创业者出海搭建可融资企业架构展开。指出投资人投的是公司而非产品,介绍美国常见实体类型及适用场景,还谈及股权分配、董事会架构设计,以及中美创投实践差异,给出相关建议。
突发!字节开源 36B 模型Seed-OSS
字节跳动Seed团队开源Seed-OSS系列36B模型,用12T tokens训练,采用Apache-2.0许可证。该模型能灵活控制推理预算,有两个基座版本,Instruct版在多方面表现强劲,性能碾压OpenAI开源模型。
“一句话生成游戏”之后:2026 ChinaJoy的四个变化|甲子光年
AI给游戏产业带来新的生产技术,也引发了一场围绕游戏产业新价值链的争夺。本文介绍了2026 ChinaJoy现场正在发生的四个变化,包括游戏开发者的时间被重新分配、游戏引擎开始为Agent重新设计等。
审美在线、随叫随到、月薪19刀——Lovart把AI设计师这件事做认真了
Lovart适合无设计预算的人,将专业设计师装进AI工具。其Brand Kit解决风格不稳定问题,Font Generator可生成专属字体,Create Skill能固化学习成本,还有Export PSD、Mock Up等实用功能,月费仅19美元。
8 个月做到 1 亿美元 ARR,Lovable 增长负责人:免费用户不是成本,是营销渠道
Lovable增长负责人Elena Verna分享产品增长经验,指出增长团队核心是解决分发问题,PLG概念被过度炒作,传统增长策略失效,应把免费产品当营销预算,还给出未来增长的8个关键策略。
图解Vllm V1系列6:KVCacheManager与PrefixCaching
文章聚焦vllm v1,阐述调度器取请求时判断设备有无充足空间做推理的问题,涉及KVCacheManager与Prefix Caching。前者管理请求和块,后者通过找最长一致前缀节省显存,还介绍块分配释放策略与流程。
致敬Kimi K2:基于slime的全流程INT4量化感知RL训练
受Kimi K2团队启发,SGLang RL团队落地INT4量化感知训练流程方案,在强化学习多方面取得进展,还在slime框架复现全流程方案,实现媲美BF16精度,提高Rollout效率,为社区提供开源参考。
Agentic RL 后训练资源怎么分?港中文、恒生大学提出 Libra,吞吐最高提升 3 倍
大语言模型走向“完成任务”,Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统,统一优化训练与 rollout,在多任务中提升吞吐,论文与代码已公开。
RL 效率无损飙升 3 倍:厦大-Shopee-清华联合首创,将投机解码首次引入 RL,推理能力稳如初!
传统RLVR训练中,rollout阶段耗时成瓶颈。厦大 - Shopee - 清华联合团队提出SPEC - RL,将投机解码引入RL,训练提速2 - 3倍,避免重复生成,与主流算法兼容,在多项基准测试中性能稳定。
Snowflake:企业对AI投资回报率高达41%
全球著名数据库云平台Snowflake发布调查报告,对9个国家超500人企业调查发现,已部署生成式AI企业平均ROI达41%,应用广泛但面临数据挑战,不同行业和区域表现有差异,多数企业计划增预算。