「GPU训练」共找到 2492 篇相关文章
MSRA清北推出强化预训练！取代传统自监督，14B模型媲美32B
微软亚洲研究院联合清北提出全新预训练范式RPT，将强化学习融入预训练，把预训练语料库重构为推理问题集。实验显示RPT-14B表现出色，在多方面媲美甚至超越32B模型，未来RL或在LLM预训练掀起风暴。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
一文读懂：GPU到底是怎么工作的？
文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。
Claude团队用Qwen测试全新训练方法
Anthropic最新研究提出中训练（MSM），在预训练后、后训练前给AI立规矩。实验显示，新增MSM能让通义千问两款32B大模型失准率大幅下降，还能精简微调数据。MSM与对齐微调结合，可提升模型泛化能力。
训练MoE足足提速70%！华为只用了3招
Scaling Law下，MoE成扩展模型能力法宝，但训练难题凸显。华为构建Adaptive Pipe & EDPB优化方案，还打造DeployMind仿真平台，解决了MoE训练中通信等待、负载不均等问题，使训练吞吐提升72.6%。
听说，大家都在梭后训练？最佳指南来了
大模型时代，Scaling Law 边际效益递减，业界转向后训练。《Post-training 101》博客可助初学者入门，涵盖从预训练到指令微调、SFT 原理、多种强化学习技术及模型评测方法等内容。
让AI变成Super员工的秘密：高效训练Skills
文章复盘打造 web - testing Skill 的 4 个翻车教训，分享工程化训练心法。指出训练 Skill 能让 AI 在业务里更可靠，将通用模型变成懂业务、会自检、能稳定交付的员工，还给出训练方法。
小白也能秒懂：趣解GPU各种核心参数规格！
近期美国升级对英伟达H20芯片出口管制，业内震动。文章介绍GPU和显卡区别，讲解GPU关键参数如算力、核心数量等含义，还通过货车、火车类比助小白理解，助读者选合适GPU。
Nvidia GPU深度解析
文章深度解析Nvidia的B30A（传闻）、HGX H20、H100、B200和B300（Ultra）五款GPU，从架构、性能、内存、封装工艺和应用场景等方面对比差异，助读者选合适GPU。
被传GPU部门被中芯国际收购，Imagination：消息不实
近期市场传中芯国际拟收购Imagination GPU部门，该公司昨晚声明辟谣，称未与任何公司就出售GPU IP业务达成协议，保持独立运营，GPU业务稳健，还将追究散布虚假信息者法律责任。