「显存管理」共找到 603 篇相关文章
刚刚,DeepSeek 文档更新,Agent 开发者要注意这个字段
DeepSeek在官方API文档给出thinking mode和tool call结合样例,把模型中间思考过程成Agent系统需管理部分。关键字段`reasoning_content`从调试信息成协议流程一部分,影响状态管理、多模型适配等。
上百个Agent,该怎么管?清华团队新思路:重做Session
当Agent数量增多,管理难题凸显。清华与中大团队开源OpenRath,以Session为核心,让多Agent共享状态。它借鉴PyTorch,解决了证据存储、状态流动等问题,使Agent集群管理更高效。
不上云、不租卡,如何优雅地在本地微调Qwen-VL-30B?
文章指出企业训练多模态助手,30B 参数的开源多模态模型如 Qwen-VL-30B 是不错选择,但多模态场景下显存需求大。联想 ThinkStation PGX 解决了显存难题,还介绍其性能、优势、适用场景及服务等。
我拥有了超能力!Meta最牛文科生让3个AI互掐,竟造出1人技术部
Meta产品经理Zevi Arnovitz零技术基础,借助Cursor和Claude治愈代码恐惧。他分享经历,用管理团队方式管理AI,建立开发流,还让AI互审代码。AI正让普通人构建未来,职场需全能构建者。
1.5B刷新数学代码SOTA!快手&清华精细化Token管理,LLM推理能力飙升
快手与清华团队用1.5B参数小模型在推理基准上超越同量级SOTA。其Archer方法通过精细化Token管理,对知识型和推理型Token差异化训练,让知识和推理同步更新且互不干扰,在数学和代码任务表现出色。
6.3K star!再见了Docker Desktop,容器与 K8s 管理的终极利器,效率飙升!
和容器打交道,过去首选可能是Docker Desktop,但它有商业许可限制、资源占用高等问题。今天分享免费开源的替代品Podman Desktop,它集成多项功能,还自带Kubernetes集成,很受开发者欢迎。
13.8K star!!6G显存就能跑的AI视频神器,支持1分钟生成,这么6?!
现在AI视频生成领域仍面临高算力需求挑战,斯坦福大学研究团队推出`FramePack`项目,降低了本地AI视频创作硬件门槛,有低硬件需求、高效生成速度等特色,操作也简单。
2.2K Star!一个开源 AI 桌面客户端,搞定所有 AI 工具的安装、配置与管理!
超60%用户首次尝试AI Agent工具时卡在安装配置阶段。EchoBird是开源AI桌面管理工具,能集中解决AI Agent使用痛点,如一键安装、统一配置等,采用Tauri + Rust架构,有四大应用场景。
世界最老程序员——这个91岁的老码农用AI 搞了个教会志愿者管理系统
91岁从未碰过代码的John Blackman,在孙子介绍下,用Claude和Replit的AI agents,仅两天就搭建出教会志愿者管理系统,还分享开发到生产的挑战及使用反馈。
一个场景吃掉700MB显存!3DGS存储焦虑怎么解?这篇综述划了五个方向
过去三年,3D Gaussian Splatting(3DGS)成实时3D场景重建与新视角合成“默认答案”,但场景拓展后有显存、带宽和功耗限制。香港科大等联合发布综述,从底层数据流组织技术版图,给出优化建议和未来方向。