「训练技术」共找到 4593 篇相关文章
给非技术人的大模型介绍：从零训练ChatGPT的全流程、天价成本及企业务实替代方案
文章介绍从零训练ChatGPT级别大模型的全流程、高昂成本，指出这对多数企业不现实。建议企业战略从构建转向应用，通过租用API或微调开源模型利用大模型，将专有数据视为核心资产。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
如何破解海量内容审核难题？快手安全大模型技术探索与应用实践
在数字内容爆炸式增长下，传统内容审核模式难应对挑战。快手安全算法中心负责人刘梦怡分享自研多模态大模型技术方案与应用实践，涵盖架构、数据、训练等，还介绍审核智能化应用及未来展望。
大模型训练新突破！Meta提出LSP：无数据也能实现能力飞升
Meta提出语言自我博弈（LSP）方法，利用自我博弈框架让模型自我改进，不依赖额外数据。LSP赋予模型挑战者和解题者身份，引入GRPO和KL散度正则化技术，解决了大模型训练的数据依赖难题。
开发者狂喜：Thinking Machines发布首款产品Tinker，后训练麻烦全给包了
OpenAI前CTO创办的Thinking Machines推出首款产品Tinker，这是用于微调语言模型的API，能简化LLM后训练过程，支持前沿模型，使用LoRA技术降低成本，还发布开源库，多高校团队已试用。
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
里程碑时刻！首个100B扩散语言模型来了，技术报告揭秘背后细节
蚂蚁集团与高校联合团队推出 LLaDA2.0 系列扩散语言模型，其中 LLaDA2.0 - flash 参数量达 100B。技术报告披露细节，其解决了 dLLM 做大做强难题，性能比肩 AR 模型，为扩散模型工业化带来转机。
95后，边改造业务边发AI顶会论文，是怎样的体验？
当下AI人才竞争激烈，企业各出奇招。今年5月京东技术沙龙零售专场，技术团队分享成果。几位95后青年专家讲述成长历程，如洛川解决CTR模型训练瓶颈，谦屹发表多篇顶会论文。京东还推出人才计划吸引人才。
Kimi K2.5登顶开源第一！15T数据训练秘籍公开，杨植麟剧透K3
Kimi K2.5登上Hugging Face热榜榜首，下载超5.3万。它主打Agent能力，成绩超GPT - 5.2等闭源模型，性价比高。官方技术报告公开其用15T数据训练，还搭载Agent Swarm架构，团队还剧透了Kimi K3。
刚刚，智谱和华为搞波大的：中国首个国产芯片训练出的SOTA多模态模型！
智谱与华为合作开源新一代图像生成模型GLM-Image，是中国首个全程用国产芯片训练的SOTA多模态模型，擅长文字渲染，拿下多项榜单第一，API调用一张图只要0.1元，还解析了其技术架构。