「幂等性」共找到 8281 篇相关文章
让LLM不再话痨,快手HiPO框架来了
当前LLM存在‘过度思考’困境,效率与成本矛盾突出。快手与南大合作推出HiPO框架,通过混合数据冷启动和混合强化学习奖励系统,让模型能自主决策思考模式,实验显示它提升了效率和准确率,还具强泛化性。
如何让LLM的输出更有创造性和随机性?
文章指出让大模型生成随机创造性内容困难,介绍了调整温度和top_k参数等提升LLM创造性和随机性的方法,还提到min_p参数影响及外部引入随机性思路,不过LLM本质有局限,多智能体或可缓解。
中国游戏行业:产业结构、薪酬体系与核心人才需求分析
文章分析中国游戏行业,指出其已成为复杂数字经济体,2024年市场收入稳健增长。发展历经多阶段,AIGC等技术带来变革。商业模式以F2P与内购为主,“研运一体”是关键。行业薪酬有竞争力但工作强度高,版号影响深远。
国产英伟达,离上市越来越近了
国产GPU明星企业摩尔线程申报不足3个月即上会,刷新科创板上会速度。它由前英伟达中国区总裁创立,获众多资本支持,虽营收增长快但累计亏损53亿,预计2027年或盈利,监管关注其盈利能力等问题。
GPT-5攻入数学圈,证明定理快过博士生?网友热议AI新角色
9月初,arXiv一篇论文将GPT - 5写进数学研究成果。它解决了第四矩定理‘收敛速度’的空白,还在凸优化领域提升收敛界限。不过它常犯错,需人类引导,且成果原创性存疑,引发对科研和博士培养的担忧。
让NCCL性能起飞的NCCL symmetric memory是啥黑科技?— part1
本文是NCCL 2.27新特性系列首篇,介绍symmetric memory。它类似NVSHMEM,现仅支持单节点通信,未来将支持跨节点。其低延迟内核能提升小数据通信性能,还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。
NVIDIA技术沙龙 《大规模EP优化:PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记,介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新,还对比多模型架构,展示推理服务架构性能特点与优化策略,以及各技术工作流程和效果。
众所周知视频不能P?北大施柏鑫团队、贝式计算CVPR研究:视频里轻松换衣服、加柯基
视频编辑难度高,传统流程繁琐,现有AI方法有局限。北大施柏鑫团队联合贝式计算等提出VIRES方法,能实现视频主体多种编辑操作,还标注VireSet数据集。其在多指标超现有SOTA模型,团队还探索全景级可控视频生成。
数据中心热潮没有消退,但巨头们确实按了“暂停键”
市场对数据中心热潮是否结束感到焦虑,但AI整体资本支出强劲,市场需求是“暂时的暂停”。麦肯锡预测未来五到七年数据中心市场将保持20%至25%的增长范围。科技巨头重申市场强劲,同时数据中心扩张面临能源瓶颈等挑战。
阿里首个世界模型:快乐…生蚝
刚成立一个月的阿里ATH事业群发布全球首个主动式实时交互世界模型HappyOyster(快乐生蚝),它搭载原生多模态架构,有漫游、导演、创造、分享等玩法,目前需邀请码体验。其技术突破让它区别于传统文生视频模型。