「推理性能优化」共找到 4188 篇相关文章
AI 播客原理解析
作者分享用豆包AI播客将英文长文转成高质量播客的体验，解析AI把文章变真人对话式语音播客的原理，涉及提示词工程和文字转语音技术，还介绍提示词写作与优化过程及长文处理方法。
不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍
英伟达联合多机构推出TTT - E2E方法，在长文本处理上提速显著且性能不打折。它基于标准Transformer，将长文本建模转为「持续学习」任务，核心是上下文压缩，避免额外缓存，代码和论文已开源。
成本不到8千美元！新浪微博1.5B小模型超越近万亿参数模型
新浪微博开源的VibeThinker - 1.5B模型，仅15亿参数、训练成本不足8000美元，却在顶级数学竞赛基准击败近万亿参数模型。它采用频谱到信号原则，分两阶段训练，性能出色，成本低且数据无污染。
华为超树HTP：不写示例、不调PDDL，AI规划约束通过率飙升62.6%
文章介绍华为超树HTP，它是完全自主、可泛化的推理新范式。能让LLM在超树结构上完成规划，不依赖人工示例和外部规划器，在复杂规划benchmark上实现SOTA准确率并降低token成本，还阐述其原理、创新点及应用实例。
氛围感编程，说干就干用AI手搓一个微信带货小程序
非技术岗位的市场人尝试搭建AI荐香微信小程序。从想法萌芽到开发上线，介绍了用微信小店功能、AI编程工具实现的过程，还分享大模型接入、连接小店等技术难点及UI优化、上架要点，展示了AI编程潜力。
MSRA清北推出强化预训练！取代传统自监督，14B模型媲美32B
微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。
DeepSeek如何实现5000亿估值？外媒曝其API毛利率高达82.9%
据外媒报道，DeepSeek今年前七个月营收约4.75亿，较2025年全年增长近10倍，净亏损收窄，综合毛利率44.6%，API业务毛利率达82.9%。它正磋商500亿二轮融资，筹备明年沪上市，靠优化基建降本，低价策略吸客。
一张图生成雕刻级 3D 模型，效率拉满，绝了！
Hi3D是商品级3D模型生成工具，在Hugging Face上连续三周霸榜下载第一。其2.0版本能自动补全不可见结构、消除环境光干扰、优化人像细节。操作简单，还有多种玩法场景，官方还提供兑换码福利。
IC测试座与HBM：AI 时代幕后英雄
在AI技术飞速发展的当下，高性能计算芯片是关键，HBM作为AI芯片重要组成，其测试技术愈发重要。文章介绍了IC测试座与HBM在AI芯片中的应用、发展趋势，还提及HBM测试挑战及相关技术设备等内容。
刚刚！Kimi Linear横空出世，全新注意力架构：1M长文本解码速度飙升6.3倍，KV缓存砍掉75%
月之暗面推出全新注意力架构Kimi Linear，有望成下一代Agent LLM基石技术。它解决了LLMs处理长序列任务的瓶颈，性能超传统机制，还开源了核心代码。Kimi Linear的KDA模块提升了表达和硬件效率，实验表现佳。