「低比特量化」共找到 1169 篇相关文章
清华SageAttention3，FP4量化5倍加速！且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3，实现5倍于FlashAttention的推理加速，首次支持8比特训练。在多种大模型上保持端到端精度，代码将分别于6、7月开源。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
开源AI开发生态大洗牌：低代码平台逆袭，传统LLM框架日渐式微
第十届527蚂蚁技术日，蚂蚁对现有开源生态全面剖析，发布2025大模型开源生态全景图。分析显示开源生态有三个主导技术赛道，还总结出七大趋势，为从业者提供生态演进规律参考。
OnlyOffice 平替，用 Vue3 + Vite 做了个“本地 OnlyOffice”：接入成本低到离谱！！！
文章介绍 onlyoffice-web-local 项目，它是基于 OnlyOffice 的纯前端本地网页文档编辑器，无需服务器端处理，部署轻、接入快、更安全。阐述其功能、适用场景，给出开发部署及集成方案，可作 OnlyOffice 平替。
最新W4A4KV4全量化框架，单卡A100大模型推理速度飙升
计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架，通过系统 - 算法协同优化，实现全4比特推理性能突破，在多方面有技术亮点，实测性能碾压现有方案且已开源。
警报拉满，10k star , QuantDinger，赚钱可能就是这么简单！！！！
量化交易常存在研究、策略、回测和实盘间“失忆”问题。QuantDinger将量化流程形成闭环，是Open - source AI Trading OS，有研究、策略管理等四大核心能力，介绍了使用方法、适用人群。
16岁炒马斯克鱿鱼，SpaceX天才转投北大数学校友赵鹏麾下
16岁天才Kairan Quazi从SpaceX离职，入职全球顶尖量化交易公司Citadel Securities。他曾14岁毕业于圣克拉拉大学，被马斯克选中加入SpaceX。他表示量化金融反馈快、结果直观，且新公司欣赏他的非传统背景。
破解MoE模型“规模越大，效率越低”困境！中科院自动化所提出新框架
大模型参数量飙升却陷入‘规模越大，效率越低’困境，中科院自动化所研究团队提出统一框架，直击MoE底层运作模式，让专家‘组队学习’，实现参数量、负载方差降低，达成三重优化。
京东发布业界首个/开源/高完成度/轻量化「通用AI智能体产品」。
京东跨界推出业界首个开源高完成度轻量化通用智能体产品JoyAgent - JDGenie。它开箱即用、轻量可自部署，内置多种子智能体与工具，还给出二次开发示例，有多层次多模式思维等创新点。
经济学人：为什么 AI 还没抢走你的饭碗？
尽管先进AI模型能力强，引发人们对失业的担忧，但实际情况是，口译翻译等领域就业人数增长，年轻毕业生失业率低，白领岗位未受负面影响，全球就业仍强劲，或因AI使用率低及公司不轻易裁员。