「显存管理」共找到 591 篇相关文章
如何在24GB显存里，塞下一个万亿参数的巨兽？KTransformers入选顶会SOSP
清华大学与趋境科技联合研发的KTransformers系统，可让消费级显卡跑万亿级参数模型，其论文入选SOSP 2025。该系统解决MoE模型本地部署难题，技术创新多，还与SGLang合作，提升硬件利用率。
AICon 2025 深圳回顾：AI Agent 爆火全场，管理与推理优化成新焦点
2025年8月22 - 23日，AICon全球人工智能开发与应用大会在深圳落幕。70+嘉宾、800+开发者与企业代表参会，议题覆盖AI Agent、推理优化等。AI Agent成全场焦点，企业管理议题意外走红，展示了AI深入各领域的趋势。
最低仅需2G显存，谷歌开源端侧模型刷新竞技场纪录，原生支持图像视频
今天凌晨，谷歌官宣Gemma 3n，原生支持多模态。它在大模型竞技场超1300分，是首个超此分数的10B以下模型。其VRAM占用低，最低2GB，已在谷歌AI Studio等可用，还公开了技术细节。
月下载破亿工具链被OpenAI打包收购！Python包管理神器uv现在姓O了
OpenAI与uv开发商Astral官宣达成收购协议。交易完成后，Astral团队将加入OpenAI的Codex团队。OpenAI承诺继续支持uv等开源工具，还想让AI参与软件开发全流程，提升编程效率。
谷歌DeepMind：AGI不必是巨型模型，拼凑型AI群或率先涌现，管理大规模Agent迫在眉睫
DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。
当我问deepseek有什么延长周末的好方法
作者询问DeepSeek延长周末的方法，其给出工作日压缩、周末扩容、心理延展、进阶管理等策略，还介绍建立“时间折叠”意识，不少豆友分享实践感受。
柬埔寨 AI 电诈团伙被 OpenAI 封号瓦解
OpenAI 报告称端掉柬埔寨诈骗团伙，该团伙用 ChatGPT 实施投资理财、恋爱杀猪盘等多种诈骗，还用于管理员工。OpenAI 封号并同步线索，强调打击背后犯罪集团。
【光通信&卫星通信】发言题目&发言提纲
2026年8月25 - 26日，‘第七届中国电子通信设备开发者峰会’等相关论坛将在上海举办，由车乾信息主办。众多单位将围绕光通信、卫星通信等关键技术演讲，涉及架构、材料、热管理等内容。
英伟达MoE新开源：一行import，微调加速3.7倍
英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。
AI来了，职场逻辑也变了
AI到来使职场规则和逻辑改变，作者给出三条判断：公司人才观变为宁缺毋滥、优先筛选；主观能动性价值放大；纯管理岗位风险上升，建议管理者回一线结合AI做业务。