「NVFP4量化」共找到 1739 篇相关文章
Gemini 3.5深夜登场，谷歌CEO劈柴亲自算账：速度快4倍、一年还省超10亿美元，曝内部已被颠覆
北京时间5月20日凌晨，谷歌I/O开发者大会开幕。谷歌CEO展示惊人数据，发布Gemini 3.5、Gemini Omni等新品。Gemini 3.5速度快、成本低，改变谷歌内部工作方式；Omni可生成视频；还为Gemini应用和搜索框带来升级。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
4倍速吊打Cursor新模型！英伟达数千GB200堆出的SWE-1.5，圆了Devin的梦！实测被曝性能“滑铁卢”？
Cognition推出全新AI编码模型SWE-1.5，专为软件工程任务设计，运行速度快，在基准测试中成绩良好。它基于GB200芯片训练，有定制编码环境，开发有新战略，还与Cursor新模型Composer对比引发关注。
闹玩呢！首届大模型对抗赛，DeepSeek、Kimi第一轮被淘汰了
谷歌发起首届大模型国际象棋对抗赛，为期三天。参赛模型众多，首轮中 Gemini 2.5 Pro、o4 - mini、Grok 4 和 o3 以 4 - 0 战绩晋级半决赛，DeepSeek、Kimi 首轮被淘汰，目前 Grok 4 是夺冠热门。
人类创造力的核心机制，AI已经开始掌握了 | 北大CogSci 2025（Oral）
北大团队论文揭示AI开始掌握人类创造力核心机制，提出IEI框架量化评估AI组合创造力。研究发现GPT - 4等在创意理解超普通人，框架优化可提升AI创意输出质量，论文被CogSci 2025收录。
3个硬核 GitHub 项目，让 AI 帮你赚钱！
nof1.ai网站举办“AI量化交易擂台”，让GPT - 4、Claude、DeepSeek等模型用1万美元本金在加密货币市场自动交易。目前DeepSeek排名第一，11天收益率超90%。文章介绍3个相关GitHub项目，可让AI在金融市场竞技、分析交易。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
乘用车智驾不再是香饽饽？供应商为何集体布局商用车
受乘用车价格战与车企自研挤压，智驾供应商集体转向重卡与无人物流；与乘用车难以量化价值不同，商用车智驾能直接通过节油等运营收益核算成本。
有人每月烧掉1万美元！嫌Claude太贵，这家公司改用GLM：56张B200扛起2000名工程师，AI成本直降90%
Revolut 改用 56 张英伟达 B200 自托管智谱 GLM 模型，AI 推理成本直降约 90%，工程师编码时间缩短 60%。
“最强编码模型”上线，Claude 核心工程师独家爆料：年底可全天候工作，DeepSeek不算前沿
Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。