「位宽量化」共找到 501 篇相关文章
直播预约 | LightMem:面向大模型的轻量化可插拔记忆系统
本报告聚焦大语言模型长期记忆构建与轻量化机制。现有外部记忆系统有记忆臃肿、组织低效、更新代价高问题。为此提出LightMem架构,能为大模型提供轻量、高效、可扩展记忆组件。
清华SageAttention3,FP4量化5倍加速!且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3,实现5倍于FlashAttention的推理加速,首次支持8比特训练。在多种大模型上保持端到端精度,代码将分别于6、7月开源。
大模型推理加速全链路:内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。
最新W4A4KV4全量化框架,单卡A100大模型推理速度飙升
计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架,通过系统 - 算法协同优化,实现全4比特推理性能突破,在多方面有技术亮点,实测性能碾压现有方案且已开源。
警报拉满,10k star , QuantDinger,赚钱可能就是这么简单!!!!
量化交易常存在研究、策略、回测和实盘间“失忆”问题。QuantDinger将量化流程形成闭环,是Open - source AI Trading OS,有研究、策略管理等四大核心能力,介绍了使用方法、适用人群。
16岁炒马斯克鱿鱼,SpaceX天才转投北大数学校友赵鹏麾下
16岁天才Kairan Quazi从SpaceX离职,入职全球顶尖量化交易公司Citadel Securities。他曾14岁毕业于圣克拉拉大学,被马斯克选中加入SpaceX。他表示量化金融反馈快、结果直观,且新公司欣赏他的非传统背景。
中际旭创市值6000多亿背后:技术卡位,一场“蛇吞象”跨界豪赌
A股“易中天”组合里,中际旭创营收和市值居首。其前身中际装备业绩不佳,66岁创始人王伟修2016年“蛇吞象”收购旭创科技,后交棒刘圣。9年营收增180倍,如今稳坐全球光模块厂商第一,还成巨头核心供应商。
京东发布业界首个/开源/高完成度/轻量化「通用AI智能体产品」。
京东跨界推出业界首个开源高完成度轻量化通用智能体产品JoyAgent - JDGenie。它开箱即用、轻量可自部署,内置多种子智能体与工具,还给出二次开发示例,有多层次多模式思维等创新点。
量子位专访楼天城:AI是匹脱缰野马,Harness是这个时代最关键的能力
量子位专访小马智行CTO楼天城,他认为AI如脱缰野马,Harness是关键能力。小马智行发布PonyWorld世界模型2.0,人类不再是中心,AI成总教练,能自我诊断和定向进化,还探讨了诸多自动驾驶及AI相关问题。
离谱:Claude Code让地铁变工位,早高峰发版,打工人还笑得出来?
Spotify 联席 CEO 称顶尖开发者自去年 12 月未亲手写代码,靠 Claude Code 驱动的「Honk」系统提速开发。但一线开发者质疑说法是营销,用户要求降会员费,还质疑 Anthropic 官网招开发岗位。