「代码优化」共找到 2727 篇相关文章
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗,不讨论工具使用,侧重解读记录内容。以混合精度训练为例,介绍各步骤显存管理细节,还给出单层、双层模型及zero1训练的显存分析。
ACL 2025 | AI字幕慢半拍,不知道大家在笑什么?新方法让同传性能直逼离线翻译
香港中文大学、字节跳动Seed和斯坦福大学团队提出SeqPO - SiMT框架解决同声传译“质量 - 延迟”权衡问题。该方法将同传建模为序贯决策过程,优化决策序列,实验显示其性能直逼离线翻译。
SGLang Team:在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek
本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性,SGLang 实现高吞吐量,成本低。博客探讨并行设计、优化方法,所有组件开源,也指出了当前局限与未来方向。
AI浪潮之下:存储来到聚光灯下
AI浪潮下,行业对存储设备重视上升。其根因是AI业务刺激,数据量增长且推理业务有新需求。信通院报告显示我国存力结构优化,国内厂商迎来机会,平头哥镇岳510主控芯片表现出色,生态建设也在推进。
南大周志华团队最新力作:一个算法通吃所有,在线学习迎来新范式?
世界是动态变化的,AI 模型需具备在线学习能力,领域提出适应性遗憾值指标。现有算法通用性不足,南京大学周志华团队研究具有双重自适应性的通用算法,提出元 - 专家框架等,还研究了在线复合优化问题。
吴恩达:产品经理才是 AI 时代的最大瓶颈
吴恩达指出,AI编程助手使写代码变快,‘决定做什么’成新瓶颈,即‘产品管理瓶颈’,产品经理比程序员更稀缺。他强调用户同理心和心智模型,认为软件开发正从技术驱动转向价值驱动。
月之暗面刚开源多模态Kimi-2506:智能体、视觉理解,重磅大升级
国内月之暗面平台对开源多模态模型Kimi-VL-A3B-Thinking升级到2506版本。该版本性能、视觉理解等能力提升,支持更高分辨率,在多领域表现出色,还介绍了模型组成与优化器改进。
新版DeepSeek R1你得这样用,太爽啦~
前几天DeepSeek R1悄悄更新,作者测评发现,起初用复杂提示词,它比Claude4有明显差距;换成一句话提示词,生成效果质的飞跃,代码能力大幅提升接近Claude4,写作小提升,数学能力提升不大。
Claude Opus 4.7 上手实测:花7倍价格买输出,值不值?
作者实测Claude Opus 4.7,其定价约为GPT - 4.5的6 - 7.5倍。它有全新架构、强化Agent能力等升级,在代码生成、推理分析等多场景表现出色,是否值高价取决于使用场景。
龙虾让位!硅谷顶流AI「爱马仕」一夜闯进微信,冲上全球第一
硅谷新宠Hermes Agent爆火,GitHub揽6.6万星,原生接入微信引开发者关注。其署名的首篇‘顶会级’论文提出Autoreason推理方法,指出传统‘自我优化’弊端,展示出小模型逆袭等优势。