「推理缓存优化」共找到 3050 篇相关文章
中国AI芯片大突围，DeepSeek V3.1引爆算力革命
DeepSeek V3.1发布，是中国AI技术自主性的战略突围。它有6850亿参数，采用UE8M0 FP8适配国产芯片，具混合推理架构、Agent能力等。其发布或重塑AI产业格局，推动国产芯片发展。
杨植麟被梁文锋叫醒了！Kimi新模型发布即开源，1T参数全线SOTA
172天后，Kimi推出全新Kimi K2基础大模型回应DeepSeek冲击。它为MoE架构，1T参数，激活参数32B，在多任务上领先，发布即开源，还分享技术细节，实测有亮点也待优化，展现回归之势。
碾压DeepSeek V3！阿里开源新版Qwen-3，屠榜级断层第一
今天凌晨1点，阿里巴巴开源Qwen3系列新版本Qwen3 - 235B - A22B - 2507。它是非思维推理的指令微调模型，性能强劲，在多类测试基准中大幅超DeepSeek开源的新版V3 - 0324及月之暗面的kimi - k2。
AI 播客原理解析
作者分享用豆包AI播客将英文长文转成高质量播客的体验，解析AI把文章变真人对话式语音播客的原理，涉及提示词工程和文字转语音技术，还介绍提示词写作与优化过程及长文处理方法。
华为超树HTP：不写示例、不调PDDL，AI规划约束通过率飙升62.6%
文章介绍华为超树HTP，它是完全自主、可泛化的推理新范式。能让LLM在超树结构上完成规划，不依赖人工示例和外部规划器，在复杂规划benchmark上实现SOTA准确率并降低token成本，还阐述其原理、创新点及应用实例。
氛围感编程，说干就干用AI手搓一个微信带货小程序
非技术岗位的市场人尝试搭建AI荐香微信小程序。从想法萌芽到开发上线，介绍了用微信小店功能、AI编程工具实现的过程，还分享大模型接入、连接小店等技术难点及UI优化、上架要点，展示了AI编程潜力。
MSRA清北推出强化预训练！取代传统自监督，14B模型媲美32B
微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。
DeepSeek如何实现5000亿估值？外媒曝其API毛利率高达82.9%
据外媒报道，DeepSeek今年前七个月营收约4.75亿，较2025年全年增长近10倍，净亏损收窄，综合毛利率44.6%，API业务毛利率达82.9%。它正磋商500亿二轮融资，筹备明年沪上市，靠优化基建降本，低价策略吸客。
一张图生成雕刻级 3D 模型，效率拉满，绝了！
Hi3D是商品级3D模型生成工具，在Hugging Face上连续三周霸榜下载第一。其2.0版本能自动补全不可见结构、消除环境光干扰、优化人像细节。操作简单，还有多种玩法场景，官方还提供兑换码福利。
MiniMax 技术闭门会分享：长上下文是 Agent 的 Game Changer
MiniMax 7月10日举办M1技术研讨会，探讨模型架构创新等领域。会议围绕RL能否赋予模型新能力、预训练价值等展开，指出长上下文是Agent的Game changer，混合架构将成主流，还分享了混合架构推理实践及M1相关问答。