「检测精度」共找到 407 篇相关文章
谷歌新论文把内存股价干崩了!KV cache压缩6倍,“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法,可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失,还能8倍加速计算。虽引发存储芯片巨头股价下跌,但目前只是实验室成果,仅解决推理阶段内存问题。
Midjourney新副业曝光:50万个传感器藏进浴池,60秒生成你的3D身体地图
搞AI绘画的Midjourney官宣将在旧金山开Spa馆,背后是进军医疗硬件的新项目Midjourney Medical。其用Midjourney Scanner做全身超声波扫描,能快速生成高精度3D身体地图,还规划了落地路径和长期扩张目标。
北大提出首个复数大模型,2比特量化,推理仅加法,可手机部署!
北大团队提出iFairy方案,将模型权重量化到复数集合,用2比特表示,压缩至原本1/8。推理仅需加减或交换数据位置,成本更低。Transformer架构“复数化”,iFairy模型PPL降10%,性能反超全精度,相关成果已开源。
AMD新论文颠覆认知:FP4训练不稳定,原因不是随机性不足
大模型训练成本高,降低训练精度可降成本。AMD联合宾州州立大学论文颠覆认知,揭示FP4训练不稳定源于结构性微缩放误差,非随机性不足,还在原生FP4硬件完成大模型预训练。
开源一个Skill管理神器
AI玩家黄叔因自身和社群用户管理Skill遇到问题,开源了Skill管理神器Skill Hub。它能扫描聚合Skill,实现可视化管理,经用户反馈不断迭代,有相似检测、Git同步等功能,一行命令即可使用。
ChatGPT:再见「破折号」
常使用AI的人会发现,模型爱用破折号,成了检测AI文本的土办法。OpenAI CEO Sam Altman称已解决ChatGPT爱用破折号问题,按指令它会照做,但评论区有人反馈破折号仍存在。
Paddle OCR走到了尽头,Unlimited OCR一次读40 页
百度开源的Unlimited OCR把解码器里全部attention层换成R - SWA,模型只记128个token,能一次性读完40页文档。相比DeepSeek OCR,它在精度、速度上表现更优,训练成本低,适用范围广。
DeepSeek悄悄更新:Mega MoE、FP4 Indexer来了
昨天下午,DeepSeek 更新了 DeepGEMM 代码库,带来新东西 Mega MoE。它将 MoE 计算流程整合,让数据通信和计算同时发生,提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等,是基础设施层重构尝试。
突发!美国在AI芯片嵌入追踪器,以阻止运往中国
路透社消息,美国当局秘密在部分可能被非法转运至中国的先进AI芯片货运中装位置追踪装置,旨在检测运往受出口限制目的地的芯片,该措施仅针对特定货运,中国谴责美出口限制。
清华SageAttention3,FP4量化5倍加速!且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3,实现5倍于FlashAttention的推理加速,首次支持8比特训练。在多种大模型上保持端到端精度,代码将分别于6、7月开源。