「概率采样」共找到 149 篇相关文章
陶哲轩儿子变性了?本人现身回应,全网吵翻
近期网友热议陶哲轩儿子变性一事,实际其儿子2025年宣布选非二元性别身份。此外,父子在SAIR节目对谈AI与科研,陶哲轩认为AI是概率猜测机器,需过滤,还谈及AI不能超人类、应用于真实科研等。
超越对数似然:模型能力连续体下的监督微调新范式
论文挑战监督微调(SFT)用负对数似然(NLL)作训练目标的默认设定,提出基于概率的目标家族,引入“模型能力连续体”概念,分析不同目标在不同模型能力下的表现,为模型后训练提供新优化方向。
刚刚!北大校友Lilian Weng最新博客来了:Why We Think
北大校友Lilian Weng更新博客《Why We Think》,回顾利用测试时计算的研究进展,探讨让模型“思考更久”的方法。文中介绍了思维链、潜变量建模等策略,还提及多种提升生成质量的策略,如并行采样与序列修订,以及强化学习提升推理能力等内容。
MoE RL 实战:统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样,消除训推不一致性。介绍 FP8 硬件基础、格式等,分析训练难点,定位 KL Loss 异常源于量化原理,验证其在 MoE 模型 RL 场景优势,指出模型规模与训推不一致的关联。
MOE RL实战:统一FP8全流程训练
SGLang RL团队等联合完成工作,实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等,指出训练难点,分析KL Loss异常归因,验证其在MoE模型RL应用效果,还探究模型规模对训推不一致性的影响。
TikTok SRE 技术负责人:AI Agents 说到底就是分布式系统
本文整理自TikTok SRE技术负责人Salman Munaf的公开演讲,提出AI Agent具备调用外部服务、执行状态变更能力后,本质就是分布式系统,需运用分布式系统领域成熟经验规避风险、保障安全可靠。
别再手写 Skill 了!微软最新研究:像神经网络一样训练 Skill
微软研究提出 SkillOpt 方法,把 Skill 文档当「权重」训练,在 52 个测试组合中全部最优或并列最优,平均提升 23.5 分,碾压人类手写。该方法跨模型、环境有效,已开源,使用方便。
全网玩疯的SBTI,挤爆了服务器!网友用Claude手搓复刻版
全网被新型SBTI人格测试刷屏,服务器被挤崩。它解构MBTI框架,精准捕捉年轻人情绪。开发者用Claude Code完成逆向复刻,还做了改进。如今做产品门槛降低,未来SBTI或由AI打造。
喊话谷歌、OpenAI,微软AI CEO亮出「人文超级智能」底牌
微软AI CEO苏莱曼称AI已超越人类,他在组建微软超级智能团队时提出「人文主义超级智能」概念,认为超级智能发展有风险,要确保AI站人类一边,还看好其在医疗领域应用。
阿里开源自主搜索AI Agent,搜论文、网站资讯无所不能
今天凌晨,阿里开源创新自主搜索AI Agent——WebAgent,具备端到端自主信息检索与多步推理能力。还介绍了WebDancer框架从数据构建到训练优化各阶段,助其完成复杂信息检索任务。