位宽量化」共找到 501 篇相关文章

开源动态7

直播预约 | LightMem:面向大模型的轻量化可插拔记忆系统

本报告聚焦大语言模型长期记忆构建与轻量化机制。现有外部记忆系统有记忆臃肿、组织低效、更新代价高问题。为此提出LightMem架构,能为大模型提供轻量、高效、可扩展记忆组件。

深度学习自然语言处理
开源动态8

清华SageAttention3,FP4量化5倍加速!且首次支持8比特训练

清华大学陈键飞团队提出针对BlackWell架构的SageAttention3,实现5倍于FlashAttention的推理加速,首次支持8比特训练。在多种大模型上保持端到端精度,代码将分别于6、7月开源。

机器之心
推荐文章8

大模型推理加速全链路:内存管理、编译优化、量化与并行策略

本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。

InfoQ
开源动态8

最新W4A4KV4全量化框架,单卡A100大模型推理速度飙升

计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架,通过系统 - 算法协同优化,实现全4比特推理性能突破,在多方面有技术亮点,实测性能碾压现有方案且已开源。

AIGC开放社区
开源动态8

警报拉满,10k star , QuantDinger,赚钱可能就是这么简单!!!!

量化交易常存在研究、策略、回测和实盘间“失忆”问题。QuantDinger将量化流程形成闭环,是Open - source AI Trading OS,有研究、策略管理等四大核心能力,介绍了使用方法、适用人群。

小华同学ai
新闻资讯7

16岁炒马斯克鱿鱼,SpaceX天才转投北大数学校友赵鹏麾下

16岁天才Kairan Quazi从SpaceX离职,入职全球顶尖量化交易公司Citadel Securities。他曾14岁毕业于圣克拉拉大学,被马斯克选中加入SpaceX。他表示量化金融反馈快、结果直观,且新公司欣赏他的非传统背景。

量子位
新闻资讯7

中际旭创市值6000多亿背后:技术卡,一场“蛇吞象”跨界豪赌

A股“易中天”组合里,中际旭创营收和市值居首。其前身中际装备业绩不佳,66岁创始人王伟修2016年“蛇吞象”收购旭创科技,后交棒刘圣。9年营收增180倍,如今稳坐全球光模块厂商第一,还成巨头核心供应商。

芯师爷
开源动态7

京东发布业界首个/开源/高完成度/轻量化「通用AI智能体产品」。

京东跨界推出业界首个开源高完成度轻量化通用智能体产品JoyAgent - JDGenie。它开箱即用、轻量可自部署,内置多种子智能体与工具,还给出二次开发示例,有多层次多模式思维等创新点。

开源AI项目落地
新闻资讯8

量子专访楼天城:AI是匹脱缰野马,Harness是这个时代最关键的能力

量子专访小马智行CTO楼天城,他认为AI如脱缰野马,Harness是关键能力。小马智行发布PonyWorld世界模型2.0,人类不再是中心,AI成总教练,能自我诊断和定向进化,还探讨了诸多自动驾驶及AI相关问题。

量子位
新闻资讯7

离谱:Claude Code让地铁变工,早高峰发版,打工人还笑得出来?

Spotify 联席 CEO 称顶尖开发者自去年 12 月未亲手写代码,靠 Claude Code 驱动的「Honk」系统提速开发。但一线开发者质疑说法是营销,用户要求降会员费,还质疑 Anthropic 官网招开发岗

机器之心