搜索：大模型记忆系统

「大模型记忆系统」共找到 8909 篇相关文章

vLLM 新特性：批量大小不再影响模型输出

vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。

Gartner发布《生成式AI模型提供商创新指南》，首次对生成式AI市场进行象限划分，按功能完整性和未来潜力将厂商分为新兴领导者、新兴挑战者、新兴远见者和新兴专家四个区域，还指出AI正从实验转向企业核心层。

现有目标检测方法有决策不透明和拒识能力不足问题。IDEA提出Rex - Thinker，引入“逻辑推理链”，构建可解释推理框架，经两阶段训练，在测评中准确率提升，可解释性强，有良好泛化能力。

据路透社等爆料，DeepSeek与智谱AI正秘密自研定制化AI芯片，目标是摆脱对英伟达等的硬件依赖，构建自身算力生态。因算力账本和外部环境压力，两家公司选择研发面向推理场景的芯片。

近期，Anthropic新推Claude Skills获好评，而MCP协议一周年却很寂静。文章探讨MCP定位、适用边界及潜在价值，分析其与Claude Skills的关系，指出MCP生态现状及适用业务场景。

本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。

Anthropic发布Claude 4.5，在编程等任务中表现优于GPT - 5。Claude Code升级，API添新功能，模型能力提升，对齐性改善。还推出Claude Agent SDK及“Imagine with Claude”功能。

介绍在校生开发的开源工具 HypoMux，它面向 Windows，能把多张网卡「绑」在一起，让下载任务多线路并行。有双模式可选，还能智能分流，兼容主流加速器。操作简便，可解决下载慢问题。

Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。

Google推出新图像生成和编辑功能，社区称其为‘Nano Banana’，号称‘世界第一’且免费开放。它有风格转换、背景编辑等亮点，用户反馈整体积极，但也存在API限制等问题，与对手有差距也有优势。