搜索：Baichuan - M2 - 32B

「Baichuan - M2 - 32B」共找到 114 篇相关文章

击败Meta登榜首：推理增强的文档排序模型ReasonRank来了

本文第一作者刘文涵聚焦AI搜索研究。提出推理增强的文档排序模型ReasonRank，在多个榜单击败多校和机构登榜首，其7B版本超越32B模型，论文获Huggingface paper日榜第一。还介绍研究动机、方法及实验结果等。

文章围绕本地大语言模型（LLM）展开，针对实用性和经济性问题，用Dell Precision 7960塔式工作站对主流模型测试。涉及不同尺寸模型、推理框架等，给出不同配置下性能指标及使用建议，还模拟真实场景测试。

原来，Scaling Law在32年前就被提出了，不是2020年的OpenAI、不是2017年的百度，而是1993年的贝尔实验室。在一篇文章里提出一种预测方法，研究人员可以预测模型在更大数据集上的表现，这和现在大家常提的Scaling Law几乎一致。

Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。