「显存管理」共找到 593 篇相关文章
谷歌192亿买他回来，现在只想让他闭嘴
谷歌花27亿美元挖来的Transformer“贡献最大”作者Noam Shazzer，因在公司内部论坛发表极具争议的言论，点燃“火药桶”。谷歌管理方删帖使争议升级，外界联想起2017年“James Damore事件”，但Noam地位重要，谷歌难以将其开除。
Claude Code 究竟牛在哪里？（以及如何在你的 AI 智能体中复刻它的魔法！）
文章介绍Claude Code是出色的AI智能体，比Cursor等好用。它设计简单，提示词和工具弥补模型缺点。作者基于使用经验，给出打造类似智能体的要点，包括控制循环、提示词、工具和可引导性等方面。
OpenAI将上任新部门CEO，发表深度长文
Instacart首席执行官Fidji Simo将在8月18日加入OpenAI任新部门CEO，她发文阐述AI赋能人类的看法，指出要确保技术为更多人带来机遇，还详述AI在知识、健康等方面改变生活的潜力。
ICML 2025 | M+框架来了，增加LLM隐空间记忆，不再受上下文窗口限制
本文提出M+长期隐空间记忆扩展框架，在MemoryLLM之上，将8B级模型有效记忆跨度从不到20k提升到160k+，显存占用不变。它解决了现有记忆模型冗余、冲突难解等问题，为下一代语言模型提供支撑。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
AI 时代的 MySQL 数据库运维解决方案
文章指出大模型与MySQL数据库运维结合能改变传统管理方式，提供完整的MySQL大模型运维系统构建路径，涵盖知识库建设、模型选择与调用策略设计、MCP Server开发及监控与优化闭环建立，可提升运维效率与准确性。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
因果发现大模型迎来「理论破局」： DAG-FM 破解异质机制下的因果图识别与涌现难题 | GAIR Paper 116
浙大、清华与稳准智能联合发布因果发现大模型DAG - FM，解决了现有模型缺乏理论基础、易产生非法环路和显存爆炸问题。它在理论上证明因果图可识别，架构上避免环路，处理数据能力强，还将推进特定领域预训练。
全国首部“AI生成内容合规”标准，现公开征集起草单位和个人
随着AIGC转向产业落地，监管对生成内容管控成趋势。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，它规范合规要求，还提供四大核心路径解决企业痛点，现征集起草单位和个人。
AI生成内容如何确权？全国首部区块链知识产权存证标准启动编制，欢迎参与起草！
区块链存证技术能解决知识产权确权、举证、维权难题，但实践中存证流程不规范等问题凸显。全国首部《基于区块链的知识产权存证管理规范》团体标准立项，正征集起草单位和起草人，可解决企业核心困境。