「MXFP4量化」共找到 1656 篇相关文章
3个硬核 GitHub 项目，让 AI 帮你赚钱！
nof1.ai网站举办“AI量化交易擂台”，让GPT - 4、Claude、DeepSeek等模型用1万美元本金在加密货币市场自动交易。目前DeepSeek排名第一，11天收益率超90%。文章介绍3个相关GitHub项目，可让AI在金融市场竞技、分析交易。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
“最强编码模型”上线，Claude 核心工程师独家爆料：年底可全天候工作，DeepSeek不算前沿
Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。
挑战 1 比特！ETH Zürich 秦浩桐：如何把大模型「塞进」小设备？| IJCAI 2026
IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。
9位顶级研究员连讲3晚，华为盘古大模型底层研究大揭秘
华为诺亚方舟实验室成果颇丰，4月开发千亿级通用语言大模型Pangu Ultra，5月推出稀疏大语言模型Pangu Ultra MoE。5月28 - 30日，机器之心联合举办分享会，9位研究员揭秘量化、剪枝等关键技术突破。
[Triton编程][基础] Triton Fused Softmax Kernel详解: 从Python源码到PTX分析
文章详细介绍Triton Fused Softmax Kernel实现，从Naive Softmax到Triton实现，分析访存量、row索引计算、num_stages作用等，还修复官方年久失修代码，性能测试带宽吞吐提升约4倍。
OpenRouter模型7月排名：谷歌遥遥领先，DeepSeek 令牌份额占比超越Anthtropic
OpenRouter公布7月模型排名，按模型令牌份额占比，谷歌以43.2%遥遥领先，DeepSeek 19.4%超Anthropic，OpenAI仅5.9%。编程领域Claude sonnet 4占比第一，谷歌Gemini 2.5pro进步大。
Runway重夺全球第一！1247分碾压谷歌Veo3，没有千亿算力也能干翻科技巨头
Runway Gen - 4.5击败谷歌Veo3，以1247的ELO分数在Artificial Analysis榜单中重夺AI视频王座。它在多方面树立新标杆，虽有局限，但创始人认为其是通用模拟引擎，应用场景广泛。
快慢Reasoning综述！
大型语言模型在复杂推理任务中有‘无差别计算’缺陷，阻碍其在多场景应用。本文提出双层效率优化框架，梳理两类前沿技术，通过实验揭示瓶颈，为轻量化推理指明路径。
刚刚2岁的Llama，「爸妈」都跑了！小扎手拆Meta AI，LeCun保持独立
面对谷歌、OpenAI等劲敌及Llama 4翻车、人才流失困境，小扎决定重组Meta GenAI团队，设三大架构。2023年Llama首版论文14名作者只剩3人，Llama 4也问题不断，而LeCun坚持自己的路线。