「开源内存存储」共找到 3292 篇相关文章
6.6K Star 打破次元壁！MCP-Use开源爆火：6行代码让LLM操控万物！
在AI Agent开发热潮中，MCP-Use作为开源Python库爆火。它用6行代码让LLM操控万物，支持多模型、多服务器，提供安全机制，适配网页浏览、3D建模等多种场景，降低AI Agent开发门槛。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
刚刚，Anthropic 宣布：Claude 自己长出了意识
Anthropic新研究《语言模型中的全局工作空间》，在Claude神经网络里找到特殊区域J - space，它有独特性质，对应全局工作空间理论。还介绍了发现方法及多个实验，探讨其与意识关系，研究已开源。
月吞100万亿Token！AI中转站OpenRouter赚爆了
OpenRouter宣布完成1.13亿美元B轮融资，估值达13亿美元。它每周处理25万亿个tokens，全球用户超800万。其提供AI推理统一控制层，解决企业多模型管理难题，开源模型崛起使其价值凸显。
Claude 活动上这台巴掌大的电脑，被玩疯了
上周Anthropic在开发者大会上，让参会者用Claude Code为巴掌大的M5Stack Cardputer ADV写程序，会后官方展示五个小项目，如摇一摇切换MacBook模式、拼写游戏等，代码开源，设备可带回家。
OpenAI用8个Skill把工程师的经验变成AI的工作手册：扛起两个SDK，3个月457个PR
OpenAI公开用Codex + Skills维护Agents SDK开源项目的方法论。通过AGENTS.md、Skills和GitHub Actions配合，将重复性工作自动化，PR吞吐量涨45%。还介绍了Skill设计、规则设定、测试策略等，且方案组件已开放。
想让机器人春晚包饺子？阿里达摩院：别急，先把「大脑」优化一下
阿里达摩院推出 RynnBrain 模型，从底层出发将时空记忆和物理空间推理训进模型，在 16 项具身 Benchmark 上达 SOTA。还开源 7 个模型，解决通用大模型在物理世界的局限，在多项任务表现出色。
摩尔线程的野心，不藏了
上市15天后，摩尔线程在首届聚焦全功能GPU的开发者大会上，围绕MUSA推出诸多新品，包括新GPU架构、芯片、智算集群和硬件产品，还将开源核心组件，构建生态，其架构创新定义未来AI产业格局。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
太顺手啦，这款开源框架让AI助手秒级接入应用，狂揽20.5K星！再见繁琐AI开发
CopilotKit是基于React的开源框架，开发者能以极简代码将智能助手集成到Web应用。它有三分钟集成、场景感知等优势，具备五大核心功能，适用于多场景，三步即可入门，比同类项目更有优势。