「显存管理」共找到 591 篇相关文章
如何管理和调度Dify工作流？
文章介绍Dify这一开源大模型应用开发平台，指出其工作流存在无定时调度和监控报警、执行记录过多致性能差等痛点。给出Dify Schedule和XXL - JOB两种集成Dify工作流方案，并分析各自优缺点。
一种用于管理 AI 变革步伐的演进式架构模式
Cloudflare推出基于QuePaxa共识算法的Meerkat服务，可无领导者写入并保持强一致性，提高网络可用性。它预计将是QuePaxa全球首次生产部署，但存在局限性，如大量往返通信。
显存暴降92%！哈工大为线性注意力开辟了新道路
哈尔滨工业大学等团队发现线性注意力性能不足根源是查询范数丢失等。基于此提出NaLaFormer，在ImageNet - 1K准确率最高提7.5%，超分任务峰值内存降92.3%，为线性注意力发展开辟新道路。
Agent效率X10，ClaudeCode/Codex 专属的文件管理Agent：Agentfile
Claude Code创始人用多Claude并行开发，作者受启发做了Agentfile。它能将项目文件夹变为标签页，便于切换，从Wave改进而来，轻量且适合承接HTML结果，是Skill驱动的Agent，定位为多Agent工作流收口台。
Transformer与RNN合体，谷歌打下显存门槛，解锁超长上下文
谷歌论文提出 Memory Caching 技术，通过架构机制创新赋予 RNN「可生长的记忆容量」，兼顾 Transformer 与 RNN 优势，能处理更长文本、降低推理资源门槛，实验显示有良好效果。
分布式事务：共识之外，分布式系统状态管理的另一大基石
文章深入探讨分布式系统中“共识”与“事务”的区别与协同，介绍分布式事务的应用场景、实现范式、隔离级别，还阐述 MVCC 机制及其在并发控制、版本存储等方面的应用，最后调研业界数据库产品的事务实现。
Ollama升级模型调度系统：内存管理更精准，多GPU性能提升
Ollama升级模型调度系统，精确测量运行模型所需内存，带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升，更多模型正迁移，还在开发iGPU支持，评估NPU支持。
一针注射，体外控波，科学家研发新型无线神经刺激器重塑疼痛管理
全球约20%成年人受慢性疼痛困扰，现有神经刺激设备有局限。纽约大学阿布扎比分校等团队研发SEED可注射无线神经刺激器，大鼠实验实现坐骨神经精准刺激，但面临效率、电荷平衡等问题。
AI生成内容行标来了！工信部立项管理，欢迎参与起草
据工信部通知，清华大学牵头的《元宇宙 共性服务 数字内容管理要求》行业标准获批立项并征集起草单位与专家。此为全国首部聚焦元宇宙数字内容标准，覆盖多环节，助力产业健康发展。
轻量级开源AI多智能体框架！智能路由+上下文管理，前后端接口支持！
随着多智能体系统成对话式AI新趋势，GitHub现轻量级高灵活性多AI智能体协调框架Agent - Squad，它能实现多智能体协作、路由和上下文共享，支持双语言，部署灵活，功能强大且安装友好。