「位宽量化」共找到 501 篇相关文章
快慢Reasoning综述！
大型语言模型在复杂推理任务中有‘无差别计算’缺陷，阻碍其在多场景应用。本文提出双层效率优化框架，梳理两类前沿技术，通过实验揭示瓶颈，为轻量化推理指明路径。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
通过查看GPU Assembly分析CUDA程序
文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例，对比普通和向量化版本，通过查看SASS代码，解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。
AI Coding大佬聊透了：产品智能重要还是用户体验重要？答案让人意外
量子位举办AI Coding沙龙，百度、硅心科技等多位行业玩家参与。探讨AI编程从替代人转向协作、智能体发展、To B与To C界限模糊等话题，指出未来产品智能更重要，编程产品将服务更广人群，程序员技能需转变。
Skill vs App：一场入口范式的争夺
量子位举办的「龙虾时代，Skill会吃掉App吗？」主题沙龙上，多位从业者围绕Agent生态、Skill能力边界、App未来形态等话题展开讨论。指出Skills不会完全干掉App，App会以Skill形式继续存在并进化，还探讨了App在AI时代的多种走向及面临的问题。
NeurIPS事件发酵，多位学者拒绝出任AC
NeurIPS因美国法规不接收华为等受制裁实体投稿，引发学术界震荡，许多学者不满。中国计算机学会发声反对，呼吁学者拒绝服务与投稿，已有学者拒任领域主席，还引发对其他会议的担忧。
量化投资和金融科技的开源利器来了！
金融强化学习 (FinRL®) 是首个面向金融强化学习的开源框架，已发展成生态系统，有三层结构。其特点包括支持多算法、多市场环境模拟等，有完整流水线，还支持多数据源。
小扎把马斯克机器人一号位挖走了
马斯克忙着裁人，小扎忙着挖人。Optimus AI团队负责人Ashish Kumar离开特斯拉，加入Meta。此前Optimus项目负责人Milan Kovac也已离职。此外，xAI部分高管因与顾问冲突而离职，马斯克AI之路或需调整架构。
独家 | 字节跳动机器人研究一号位孔涛离职创业
AI科技评论独家获悉，字节跳动机器人团队负责人孔涛6月初离职创业，团队已有数人离职，字节正招继任者。字节此前在机器人领域加大投入，2024年10月海外发布GR - 2模型。业界认为字节需更大决心突破。