搜索：推理缓存优化

「推理缓存优化」共找到 3050 篇相关文章

CUDA再见了！寒武纪亮出软件全家桶

在AI时代，竞争转向软件生态等综合实力。寒武纪亮出软件全家桶，其基础软件平台Cambricon NeuWare日趋成熟。在训推解决方案上成果显著，各组件如驱动、编译器等也有诸多优化和功能，加速产业智能化转型。

谷歌DeepMind与多所高校合作，用物理知情神经网络（PINN）+高精度数值优化的方法，找到了流体方程里的不稳定奇点。这种奇点很“挑剔”，此前难寻踪迹，此次发现为非线性流体动力学研究提供新范式。

GPT-5发布后引发热议，其IQ测试成绩不佳遭吐槽，但实际是「路由」问题。解锁神级GPT-5关键在prompt，医学家借它重现「神之一手」。它编程能力强，挑战Anthropic，还推动AI向「智能体式推理」发展。

Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。

Meta发布V-JEPA 2世界模型，参数高达10亿，推理速度比英伟达Cosmos快30倍。它基于Vision Transformer架构，是Yann LeCun倡导多年的JEPA路线成果，仅需62小时机器人数据训练就能执行任务，打脸质疑者。

百度PaddleOCR推出HPD - Parsing小模型，文档解析速度大幅提升，是上一代最快模型的1.62倍、自身原解码方式的3.06倍。它采用层级并行解码架构，有两层并行设计，效果出色且兼容性好，还分享了优质训练方法和优化思路。

新智元报道，Supermemory团队推出超级记忆系统ASMR，在AI记忆界最难考试LongMemEval中刷到99%准确率。它抛弃传统模式，采用多Agent并行推理，4月初将开源代码。此外，其背后的Supermemory引擎功能强大，能让AI真正拥有记忆。

The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。

Kimi K3在Design Arena单次生成前端榜单中夺冠。它做前端设计审美一流，靠独特思维链反复迭代优化方案，还具备强大数据索引能力。不过上线48小时因算力不足叫停新订阅。

当下视觉生成中，开源模型在逻辑推理生成任务上频频翻车，与闭源模型有差距。浙大与阿里团队提出Unified Thinker，将思考与执行解耦，构建数据集、采用创新算法，实验显示其有效提升逻辑执行准确度。