搜索：推理缓存优化

「推理缓存优化」共找到 3053 篇相关文章

把AI装进数据库：PostgresML和Korvus的新思路

当下机器学习应用开发流程复杂，开源数据库Postgres带来惊喜。PostgresML团队让AI模型跑在数据库中，介绍了PostgresML和Korvus两个关键项目，二者结合降低复杂度，让‘在SQL里跑AI’成工程现实。

顶尖孵化器 Y Combinator 总结了 vibecoding 核心指南，涵盖规划流程、版本控制、测试框架等多方面内容，为开发者提供了利用 AI 进行开发的实用策略和方法。

3DGS技术成研究热点，但现有方法在含动态物体场景建模精度不足。中山大学等研究者提出RobustSplat，有延迟高斯生长和尺度级联掩码引导两大核心设计，实验显示其在多指标上领先基线方法。

微软发布 TypeScript 5.9，带来开发者体验改进、新特性和性能优化，如支持延迟导入、改进默认项目设置、引入新模块选项等，也有性能升级，还透露未来版本计划。

清华大学研究团队发布论文，展示Hierarchical Reasoning Model（HRM）。该模型仅27M参数、1000个训练样本，在推理任务上击败OpenAI的o3 - mini - high，或改变AI发展方向。

OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。

Crab是人大、清华和腾讯合作论文提出的模型，目标是高效一统多模态场景理解任务。它解决了音频 - 视觉理解模型任务干扰、合作显式化不足等难点，通过构建数据集、设计结构和统一架构实现多任务合作。

云存储成本高、性能差等问题让人烦恼，JuiceFS 可零代码改造，将对象存储升级为高速共享文件系统。它功能丰富、架构有优势，代码示例简单，适用于多场景，相比竞品优势明显。

字节跳动Seed团队公布全球第一梯队大模型“高考成绩”，Gemini理科655分排第一，豆包文科683分排第一、理科648分排第二。文章解析评测标准，分析各科目表现，还介绍豆包能力提升技术亮点。

音频驱动人体动画技术有局限，阿里夸克团队推出OmniAvatar模型。它用逐像素多层次音频嵌入和LoRA训练法，解决唇动同步等问题，适用于多领域，但也存在颜色偏移等不足。