「GPU优化」共找到 1614 篇相关文章
斩获5.4K star！发现一款轻量快速开源利器，支持插件和主题，非常6！
开源君介绍轻量级文本编辑器`Lite XL`，它用 Lua 编写，基于「lite」优化，安装包仅几 MB，能在多系统流畅运行。其性能出色，还支持插件和主题定制，适合资源有限设备。
华为曝光两大黑科技！打破推理延迟魔咒，大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新，对MoE模型进行推理优化。FusionSpec依托昇腾特点，将投机推理框架耗时降至1ms；OptiQuant支持灵活量化，为大模型推理提供高性价比。
新手入门 | 搭建 AI 模型开发环境
文章为新手提供AI模型开发环境搭建方法，涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等，还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。
云知声发布U2-Flash，要争“大模型主力位”｜甲子光年
本文报道云知声发布U2-Flash大模型，基于原有U2基座，通过创新后训练方案提升Coding、Agent等复杂任务能力，多项评测比肩头部模型，目标成为企业真实生产任务的主力大模型。
刚刚，Anthropic公布Fable 5.1保姆级使用技巧，看完少走十天弯路
Claude Fable 5.1虽可兼容旧版提示词，但行为习惯有变化。官方整理提示词与工程落地指南，涵盖思考程度、工具调用进度汇报、独立工具批量调用等多方面使用技巧和避坑细节。
Fable 5夺冠！全球18大顶尖AI自主科研大赛，逼近人类极限
Prime Intellect公开大规模AI自主科研实验，18大顶尖模型断网8天挑战nanoGPT优化器速通，Fable 5追平人类82%的水平，AI开始独立完成科研闭环，但目前尚无模型有全新方法。
kimi K3超大杯升级背后的技术内幕
文章介绍开源模型 K3 架构设计思路。主要探讨 MoE 和 MLA 部分，在 MoE 方面提出 SiTU、Norm、QB 改进；在注意力机制选择 MLA，与 KDA 混合缓解部分问题，还谈及 DSV4、NoPE 相关特点。
企业不做GEO的真正原因！
作者白杨SEO作为AI搜索优化GEO研究者，分析企业不做GEO的14个原因，如看不清ROI、缺人才、认知错位、AI和GEO有不确定性等，还给出自己对GEO的看法和建议。
从零开始玩转循环 (Getting started with loops)【译】
Claude Code团队将“循环”定义为AI智能体不断重复执行工作周期，直至满足预设停止条件。文章介绍了回合制、目标导向、基于时间和主动式四种循环类型、适用场景及控制token消耗方法，还给出保证代码质量的原则。
从Foundation Model到Physical AI，三星「杀入」大模型核心战场
三星正快速进入大模型核心战场，构建Foundation Model体系，采购GPU用于AI基建。它提出Meki架构、M2RL训练范式和LiveClawBench评测体系，由AI Model TF团队推进，负责人是唐业辉。