「INT4量化」共找到 1663 篇相关文章
AMD跑GLM 5.2，成本只要英伟达一半
推理优化公司Wafer公布数据，用AMD的MI355X芯片跑GLM 5.2，单节点吞吐达2626 tok/s，单流吞吐213 tok/s，成本不到英伟达B200的一半。该公司详述部署过程，还提及AMD软件生态的变化及英伟达面临的挑战。
AI折叠！Fable 5和GPT-5.6，正沦为少数人的特权
当前AI体验出现严重“阶层折叠”，极少数人用Fable、GPT - 5.6等顶级大模型，大众用的是低参数的平庸产品。算力成本让普通人难以触及顶级AI，在医疗等领域也存在使用差距，不过也有人认为普通工作无需顶级模型。
一个中大型组织到底需要怎样的AI办公，这场闭门会说清楚了
今年初麻省理工报告指出企业AI投入大但多数试点难量化回报。6月9日金山办公举办闭门会，探讨企业级AI问题，指出其要过数据、知识、安全三关，还给出选场景、重数据等判断。
奥特曼急了！OpenAI稳坐三年的王座，刚刚被Anthropic踹下去了
2026年5月Ramp数据显示，Anthropic企业市占率34.4%首超OpenAI的32.3%。Anthropic靠按量计费和AI Agent吸金，但也面临利益错配、体验下滑、成本上涨等问题，大模型竞争进入B端深水区。
GPU利用率不到15%，AI产业最大的浪费正在被这家公司改写｜甲子光年
AI产业发展中算力成本高、利用率低问题凸显。趋动科技押注‘软件定义GPU’，试图把独占GPU变为共享算力池，其产品使客户GPU利用率平均提升约4倍，已服务超200家头部客户。
Meta 143亿挖角后的首个作品：Alexandr Wang 推出闭源模型，杨立坤点赞
沉寂9个月后，Alexandr Wang带队的Meta发布新一代模型Muse Spark。它是原生多模态推理模型，性能媲美Gemini Pro和GPT 5.4，在多领域有应用潜力。不过闭源引争议，且在部分领域有短板。
重磅开源！240亿参数力压Nano Banana 2
4月初，京东探索研究院开源JoyAI - Image - Edit图像模型。它是业内首个将「空间智能」写进底层的开源一体化图像模型，能让模型「理解空间，编辑空间」，在电商和具身智能场景极具价值。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
Rokid火得太晚了
消费电子市场中AI眼镜迎曙光，乐奇Rokid成AI+AR品类全球销冠。它通过双目衍射光波导和双芯片架构解决轻量化与续航难题，还以开放生态脱颖而出，其判断未来眼镜将成交互主体。
震惊！如果AI掌控核按钮，95%的情况它会按下去
伦敦国王学院研究者让GPT - 5.2、Claude Sonnet 4和Gemini 3 Flash三款模型模拟核危机博弈。不同时间框架下模型表现不同，还展现复杂战略推理能力，95%对局用了战术核武，暴露诸多问题。