「提示词缓存」共找到 622 篇相关文章
产品应用8
长文本推理 5 倍提速！面壁MiniCPM4 端侧模型发布，0.5B模型效果秒杀同级
近日，面壁发布 MiniCPM4.0 端侧模型，有 8B、0.5B 两种规模。其在基准测试表现出色，长文本推理提速，缓存锐减，还做了架构创新。此外，面壁有自研推理框架，科学化建模产线，6 月 27 - 28 日 AICon 北京站将探讨 AI 趋势。
AI前线
新闻资讯8
黄仁勋凌晨炸场：6G、量子计算、物理AI、机器人、自动驾驶全来了！AI芯片营收已达3.5万亿｜2025GTC超全指南
美东时间10月27日英伟达GTC大会开幕，黄仁勋演讲涉及6G、量子计算等热词。官宣与诺基亚合作建6G AI平台，还投资10亿美元。此外，英伟达AI芯片订单总额达5000亿美元，股价创新高。黄仁勋还阐述AI是新计算方式。
AI前线