「缓存性能」共找到 2050 篇相关文章
【博客转载】Row-Major VS Column-Major
文章探讨行主序和列主序存储多维数组的差异，以及对矩阵乘法性能的影响。指出不同存储顺序组合下矩阵乘法的偏好，还通过C++单线程实现和cuBLAS库验证分析，表明优化可减少性能差距。
穷人福音！MIT研究：不用堆显卡，抄顶级模型作业就成
MIT研究把59个不同模型凑一起，发现强大模型对物质理解趋同，且性能越强思维越接近。研究还指出性能不佳模型的问题，认为可通过模型蒸馏让小模型模仿大模型，实现算力自由。
重磅！华为开源业界首个Serverless分布式计算引擎openYuanrong，单机体验编程、极致分布式运行性能
近期，华为开源自研的 Serverless 分布式计算引擎 openYuanrong，它是业界首个统一支持通算和智算场景的开源引擎。能解决传统 Serverless 产品通用性不足等问题，已在华为多个核心产品应用，提升了开发效率和资源利用率。
单卡即可微调大模型！内存占用仅1/8，性能依然拉满 | ICML 2025
基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
ACL 2026 | LCA：DeepSeek 长文本加速神器，90% KV 缓存缩减 + 2.5 倍推理提速
琶洲实验室等团队提出潜在空间压缩注意力（LCA），入选 ACL 2026。LCA 突破传统注意力机制瓶颈，适配不同大模型，降低硬件门槛与成本，提升推理效率。论文与代码已开源。
AI公司烧不起Token了！国产Agent杀出，逼近Opus 4.6还免费
Token成AI时代“电力消耗”，企业成本压力大。昆仑万维推出高性能Agent模型SkyClaw - v1.0及轻量版，性能逼近顶流，价格低且限时免费。经实测能力强，其训练体系独特，未来还将开源。
苹果春季新品奔着龙虾来了！AI性能暴涨8倍，8499元起
苹果发布MacBook Pro M5系列、MacBook Air M5笔记本，8499元起，还更新了显示器。新款MacBook Pro搭载M5 Pro和M5 Max芯片，AI性能大幅提升，提示词处理速度快4倍，图像生成速度快8倍，存储、续航等方面也有优化。
谷歌TPU杀疯了，产能暴涨120%、性能4倍吊打，英伟达还坐得稳吗？
摩根士丹利研报显示，谷歌TPU产能将爆炸式增长，供应不确定性基本解决。TPU性价比高，在推理领域优势明显，或终结英伟达垄断。文章还给出TPU与英伟达GPU的选择建议及不同利益相关者的应对策略。
本地运行OpenAI Whisper语音识别模型，Unity3d环境下高性能离线转写解决方案
这是为whisper.cpp提供的Unity3D绑定库，能在本地设备高性能运行OpenAI Whisper自动语音识别模型推理。支持多语言识别与翻译，有不同大小模型，可本地运行，还介绍了使用方法。