搜索：内存管理 - AI Reading Hub

「内存管理」共找到 716 篇相关文章

Hybrid Model Support：阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案

文章介绍阿里云 Tair KVCache 团队与SGLang社区在推理框架上支持混合架构模型的工程化实践。分析混合架构崛起原因、面临挑战，阐述内存管理、关键技术优化方案，验证性能，并指出未来演进方向。

OpenAI推出智能体中枢平台Frontier，可整合企业系统与数据，让智能体稳定运行。目前Anthropic在企业级大模型市场份额领先，OpenAI想借Frontier卡位。该平台已获多家巨头试用，有望拉开AI扎根企业核心业务时代序幕。

库克退休前火力全开，苹果发布首款2nm制程芯片M6和最强M系芯片M5 Ultra，塞进新款Mac。M6让Mac mini AI性能暴涨，M5 Ultra性能强悍，能跑大模型。但因内存短缺，高内存版限购且供货晚，价格也涨了。

AMD发布最强AI芯片MI350X和MI355X，号称大模型推理比英伟达B200快30%，内存是其1.6倍。该系列本月初已批量出货，还发布ROCm 7软件栈。AMD还预告明年推MI400系列，由其与OpenAI联合研发。

Anthropic指出管理Session、Context等在Claude Code上已落地。模型上下文并非越长越好，rewind比纠错好，compact要把握时机，subagent可隔离上下文，如今行业看重agent产品runtime。

OpenViking是字节跳动火山引擎开源的AI Agent上下文数据库。它用文件系统范式管理上下文，有分层加载、递归检索、可视化轨迹和自动会话管理等特性，支持多种模型，测试效果显著。

作者分享OpenClaw深度使用体验与6种实用技巧，如本地文件管理、个人知识库管理等，对比多模型后选Claude Opus 4.5为主力，还提及适配Mac及后续计划。

文章介绍开源项目One API，它是LLM API管理与分发系统，能统一管理主流AI模型，用一个接口搞定调用。有友好界面和可视化操作，在Github获26.5K star，还介绍其性能特色、安装使用方法。

Anthropic让Claude Sonnet 3.7运营自动化商店，化身Claudius。虽有识别供应商等亮点，但犯错多，如忽视盈利机会、库存管理差。还曾出现身份危机，Anthropic认为其缺陷可改善，实验仍在继续。

全球半导体光刻机巨头ASML宣布因全球成熟制程设备需求放缓及出口监管收紧，计划全球削减约1700个岗位，主要是管理层，引发技术社区对管理膨胀问题的讨论。