协同解码策略」共找到 1340 篇相关文章

开源动态8

SGLang支持GPT-OSS:从Day 0支持到性能增强

SGLang宣布重大更新,聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升,支持多GPU,有推测解码等功能,还支持智能体应用程序,且不损害模型推理能力。

GiantPandaLLM
技术分析类文章7

Pingpong Schedule并不是万能钥匙

SGLang社区开发者反馈,SM90 FP8 Blockwise Scaling Grouped GEMM从H20迁移至H800后性能下降。文章分析是Pingpong调度策略所致,因算力提升,其使TensorCore未充分利用、TMA效率低,建议用Cooperative策略

GiantPandaLLM
推荐文章8

从 0 到 1 做一款 AI 产品:技术怎么搭、成本如何控制、销售策略怎么定?

独立开发者 Arvid Kahl 分享从零构建 AI 播客产品 Podscan 及「节俭工程」经验,涵盖技术搭建、成本控制与销售策略调整。如用小众云服务降成本,从 PLG 转向 SLG 等,为小团队创业者提供实用借鉴。

Founder Park
算法论文8

奖励模型也能Scaling!上海AI Lab突破强化学习短板,提出策略判别学习新范式

上海人工智能实验室提出策略判别学习(POLAR)新范式,解决奖励模型设计与训练瓶颈。POLAR可灵活适配多样需求,弥补传统奖励模型短板,契合强化微调框架,实验证明其性能和泛化性优越。

量子位
算法论文8

北航团队提出新的离线分层扩散框架:基于结构信息原理,实现稳定离线策略学习|NeurIPS 2025

北航彭浩团队提出SIHD框架,基于结构信息原理,自适应构建多尺度扩散层级,实现稳定离线策略学习。通过构建状态拓扑图、用结构信息增益引导扩散、引入结构熵正则化器,在D4RL测试中表现出色。

AI前线
新闻资讯8

华为助力全球运营商以网为基,以智为翼,业网算协同创新,迈向Token经营新征程

在2026 MWC上海,华为以“业网算协同创新,共赢Byte+Token双增长”为主线,与全球运营商等共话行业发展。华为副董事长汪涛解读移动通信未来十年关键命题,展会发布多领域创新成果,还将携手运营商深耕多领域。

AI科技评论
推荐文章7

《中国金融机构人才发展与培训白皮书(2026)》发布!助力金融机构打造“人 + 智能体”协同的超级员工梯队 | 极客时间企业版

在AI时代,金融人才培养正经历深刻变革。《中国金融机构人才发展与培训白皮书(2026)》应运而生,揭示了AI重塑金融人才培养的关键发现,极客邦科技和极客时间企业版也给出了相应方案。

AI前线
算法论文8

情人节暴击!下跪求婚的可以是机器人了

情人节,Unitree G1 人形机器人解锁求婚技能。背后是清华叉院等联合团队的 HuMI 框架,解决人形机器人数据采集难、效率低问题,通过硬件、交互与算法协同,实现低成本、高效全身操作策略学习。

机器之心
产品应用8

别再纠结选哪个模型了,这个项目让它们一起干活!豪赠1亿token,羊毛薅起来!

元脑企智 EPAI 推出「多模融合」API,让多个模型围绕同一任务协同工作。经代码生成、财务分析等测试及权威评测,效果出色。还采取智能调度等策略,现限时申请可免费使用,豪赠1亿token。

GitHubStore
产品应用8

华为 | MoE推理「王炸」组合:昇腾原生盘古推理,性能狂飙6-8倍!

华为团队推出昇腾平台原生Pangu Pro MoE 72B模型,经系统级软硬协同等优化,推理性能提升6 - 8倍。还提出分层混合并行等策略,打造融合算子,设计推理算法,在昇腾不同平台展现卓越性能。

AINLPer