「张量」共找到 16 篇相关文章
新闻资讯8
大模型记忆系统 MemOS 2.0：StarDust 技术演进与关键挑战｜QCon 北京
4月16 - 18日QCon北京大会聚焦Agentic AI等前沿话题，记忆张量CTO李志宇将分享《大模型记忆系统MemOS 2.0：StarDust技术演进与关键挑战》，梳理技术演进，推出MemOS 2.0 StarDust，还分析实践痛点与演讲亮点。
InfoQ
产品应用7
Hermes 登顶 OpenRouter 之后，我才发现它最缺的那一块，被这个插件补上了
Hermes Agent 三个月登顶 OpenRouter，虽好用但记忆处理有缺陷，记忆库成大杂烩。记忆张量的 MemOS Local Plugin 2.0 可解决此问题，采用‘执行即学习’，有双层反馈机制，且资产可携带。
AI工程化
8
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
腾讯技术工程
新闻资讯7
GAIR Live 预告｜智能始于记忆，AgentMemory 的技术演化过程
在人工智能走向智能体阶段，‘记忆’成焦点。如今大模型‘记不住’上下文，‘从Human Memory到Agent Memory’跃迁是迈向具身智慧关键。GAIR Live将邀专家探讨记忆技术逻辑与路径。
AI科技评论
开源动态8
彻底戳穿AI「失忆症」！超越OpenAI全局记忆，中国队开源LLM记忆操作系统
大语言模型有「记忆」缺失问题，国内顶尖团队打造出操作系统级AI记忆框架MemOS并开源且可商用。它将「记忆」升为「一级资源」，用MemCube封装记忆，评测显示性能优于OpenAI全局记忆方案。
新智元
开源动态7
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
GiantPandaLLM