「资源管理」共找到 902 篇相关文章
英伟达新研究:小模型才是智能体的未来
英伟达最新论文指出,大模型在Agent任务中消耗大量计算资源,成本高、效率低、灵活性差,而小模型能在性能够用前提下让任务执行更经济灵活。小模型通过优化硬件资源和任务设计高效执行任务,但落地面临挑战。
YC 开源自家 Harness,3 天斩获 3.9k Star,QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star,定位企业级Agent Harness,解决AI规模化落地管理难题。它补齐企业团队刚需能力,设计贴合企业规则,解决隔离与协作、权限管理问题,顺应行业从拼模型到搭骨架的转变。
如何管理和调度Dify工作流?
文章介绍Dify这一开源大模型应用开发平台,指出其工作流存在无定时调度和监控报警、执行记录过多致性能差等痛点。给出Dify Schedule和XXL - JOB两种集成Dify工作流方案,并分析各自优缺点。
LLM加速利器LMCache,极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。
一种用于管理 AI 变革步伐的演进式架构模式
Cloudflare推出基于QuePaxa共识算法的Meerkat服务,可无领导者写入并保持强一致性,提高网络可用性。它预计将是QuePaxa全球首次生产部署,但存在局限性,如大量往返通信。
ShellAgent 2.0 体验:让前端消失,省掉 70% 开发资源
本文介绍Myshell ShellAgent 2.0测试情况,它仅用提示词就能生成Agent应用,摆脱前端构建流程,降低创建门槛。文中展示创建计算八字、分析钱包资产、拆解学习资料等应用案例,还能Remix他人发布的应用。
Agent效率X10,ClaudeCode/Codex 专属的文件管理Agent:Agentfile
Claude Code创始人用多Claude并行开发,作者受启发做了Agentfile。它能将项目文件夹变为标签页,便于切换,从Wave改进而来,轻量且适合承接HTML结果,是Skill驱动的Agent,定位为多Agent工作流收口台。
分布式事务:共识之外,分布式系统状态管理的另一大基石
文章深入探讨分布式系统中“共识”与“事务”的区别与协同,介绍分布式事务的应用场景、实现范式、隔离级别,还阐述 MVCC 机制及其在并发控制、版本存储等方面的应用,最后调研业界数据库产品的事务实现。
中国算力方案:如何用有限资源做出无限可能?|甲子引力
2025年12月3日,「甲子光年」举办年终盛典,在算力产业专场,分析师王艺对话多位嘉宾,探讨中国算力方案。面对算力困境,嘉宾分享突破策略,还就关键瓶颈、技术路径等展开交流,认为具备场景洞察等优势才能持续突破。
Ollama升级模型调度系统:内存管理更精准,多GPU性能提升
Ollama升级模型调度系统,精确测量运行模型所需内存,带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升,更多模型正迁移,还在开发iGPU支持,评估NPU支持。