「缓存性能」共找到 1989 篇相关文章
Mamba 架构实现推理性能超 Gemma3-27B！推理模型开始迈入「无注意力」时代
PromptCoT - Mamba是首个具解码显存常量等特性且推理能力强的模型。当前推理大模型中注意力机制有局限，PromptCoT - Mamba实现无注意力推理，在多评测集超Transformer等模型，为无注意力推理生态奠基。
Deepseek V4 Pro深夜上线，性能追平Fable 5，但价格只有它的2％
2026年8月12日，DeepSeek V4 Pro正式版上线。它是混合专家模型，规模居世界第一梯队。价格比Claude Fable 5便宜超98%，成本优势明显。其架构节省成本，API开放多模式，产品结构清晰。
告别噪声初始化：NTU MARS Lab提出A2A新范式，实现机器人高性能单步动作生成
新加坡南洋理工大学 MARS Lab 提出 Action-to-Action (A2A) Flow Matching 新范式，以历史机器人轨迹为生成起点，打破生成速度与精度瓶颈，在训练效率、推理速度及泛化表现上佳，还可扩展至视频生成领域。
首个OpenClaw智能体宿主机性能评测报告：单机可稳定运行96路Agent实例
OpenClaw成中小企业AI利器，但企业部署面临效率、并发和安全问题。浪潮信息基于元脑x86服务器完成测试，发布评测报告，该服务器单机可稳定运行96路Agent实例，还支持一键配置、多用户隔离。
从组件到 OS 的跃迁，MemOS 深度拆解：构建企业级 Agent 的高性能记忆底座【上】
本文深入剖析开源记忆方案MemOS，它将记忆从“外挂组件”升为“系统资源”。介绍其设计理念、核心架构，分析记忆需加工、分层调度和治理的原因，还阐述记忆三态及流转，最后展示MemOS Cloud的使用方法。
豆包背后的“超算大脑”：字节ByteRobust系统跑20多万张GPU，性能刷新SOTA
字节跳动自研的ByteRobust系统登上SOSP 2025，部署于超20万张GPU平台，9600张GPU训练三个月ETTR达97%。该系统应对LLM训练故障，由控制和数据平面构成，能自动发现修复故障，提升训练效率与稳定性。
3B小模型吊打72B巨头！轻量级文档解析OCR，性能超Gemini，高效且精准！
Yuliang - Liu团队在GitHub开源轻量级文档解析模型MonkeyOCR，以SRR三元组范式实现高效精准解析，3B参数模型在英文文档解析上超Gemini 2.5 Pro和Qwen2.5 - VL - 72B，还介绍了安装部署、适用场景等。
3B模型性能小钢炮，“AI下半场应该训练+验证两条腿跑步”丨上海AI Lab&澳门大学
上海AI Lab和澳门大学联合发布通用答案验证模型CompassVerifier与评测集VerifierBench，填补Verifier领域循环迭代体系空白。AI下半场评估比训练更重要，当前验证方法有困境，新模型验证精度高且能用于强化学习。
月之暗面硬刚Anthropic！开源万亿参数Kimi K2，Agent编码性能直逼闭源最强！
上周五月之暗面发布并开源万亿参数Kimi K2，外网评价高。它或开启开源AI的“Agentic时代”，在智能体和编码基准上表现出色，成本远低于竞品，但推理速度较慢，已可平替Claude。
Diffusion约2倍无损加速！训练-推理协同的缓存学习框架来了｜ HKUST&北航&商汤
HKUST、北航与商汤提出HarmoniCa框架，解决Diffusion模型推理慢、成本高问题。它通过SDT和IEPO机制，解决训练 - 推理脱节，在多模型上实现推理提速、质量提升，且训练推理开销低，已开源。