「模式感知推理」共找到 3088 篇相关文章
首次解释LLM如何推理反思！西北大学谷歌新框架：引入贝叶斯自适应强化学习，数学推理全面提升
西北大学与Google、谷歌DeepMind团队质疑传统强化学习与反思的关系，提出贝叶斯自适应强化学习方法，首次解释为何、如何及何时反思探索新策略，还给出决策数学形式，实验显示其性能更优。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
英伟达揭示RL Scaling魔力！训练步数翻倍=推理能力质变，小模型突破推理极限
学界对强化学习能否让模型学会新推理技能争论已久，过去研究多悲观。英伟达研究指出，问题源于任务在基础模型训练数据中过度呈现及训练步数不足。其ProRL框架提升训练步数，释放小模型潜力，还构建技术组合拳。
国产推理芯片，赢了英伟达？
算力市场风向生变，国产算力崛起。政策从资金、市场、规则多维度发力，为国产算力扫清障碍。在推理场景中，国产方案性价比更高。其独特分销体系使贸易环节信息透明度低，步入卖方市场，市场也迎来新局面。
OpenAI 新的学习模式的系统提示词
本文介绍OpenAI新学习模式的系统提示词，包括严格规则，如了解用户、温故知新等，还说明了可做的事，如教授新概念、辅导作业等，强调语气方式及不要直接给答案。
DeepSeek被曝自研AI推理芯片
据路透社报道，DeepSeek 正开发自研 AI 推理芯片，欲降低对英伟达和国产芯片依赖。此为重大战略转变，影响英伟达股价。虽有降本等好处，但面临技术、制造、生态等挑战。
让大模型异步地增强推理能力
在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。
ChatGPT居然也推出防沉迷模式了
ChatGPT推出防沉迷模式，超时长会提醒休息。OpenAI副总裁称周活用户达7亿，较去年增4倍。此前ChatGPT曾因回答问题不当回滚更新。同时，OpenAI完成83亿美元融资，估值达3000亿美元。
Jina Embeddings v4 的量化感知训练
文章聚焦Jina Embeddings v4的量化感知训练。介绍量化技术可压缩向量体积、提升检索效率，对比四种主流量化方法，重点实验PTQ和Output QAT，还测试非对称量化，给出实验结果与结论。
HAMi × NVIDIA：GPU 拓扑感知调度实现详解
HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能，解决多卡通信瓶颈。文章深入剖析其设计与实现原理，介绍核心特性、阶段及代码，用双策略寻优算法保障性能与资源健康。