搜索：Baichuan - M2 - 32B

「Baichuan - M2 - 32B」共找到 113 篇相关文章

本地LLM万字救场指南来了！全网超全AI实测：4卡狂飙70B大模型

文章围绕本地大语言模型（LLM）展开，针对实用性和经济性问题，用Dell Precision 7960塔式工作站对主流模型测试。涉及不同尺寸模型、推理框架等，给出不同配置下性能指标及使用建议，还模拟真实场景测试。

原来，Scaling Law在32年前就被提出了，不是2020年的OpenAI、不是2017年的百度，而是1993年的贝尔实验室。在一篇文章里提出一种预测方法，研究人员可以预测模型在更大数据集上的表现，这和现在大家常提的Scaling Law几乎一致。

Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。