「大模型训练」共找到 9554 篇相关文章
从零开始200行python代码实现LLM
文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。
从平面几何出发：形式化验证如何驱动MLLM的推理能力跃迁
多模态大语言模型在复杂数学与几何推理中有缺陷，现有训练方式让模型难有鲁棒推理能力。上海交大等团队提出“以形式化增强非形式化推理”方案，构建完整闭环，提升模型推理及泛化能力。
GLM-4.5 验证：智谱已完成一轮“洗牌”
2025年大模型热度下降，智谱AI关注度降低。7月28日晚其发布新一代基础模型GLM - 4.5，体现战略调整成效。该模型专为AI Agent打造，性能出色，同时智谱人事、业务、收入等方面也有“洗牌”。
刚刚，Claude两个新模型曝光！
开发者在Anthropic的API中发现Claude的两个新模型代号claude - marshmallow - eap和claude - melon - eap，目前处于内部测试阶段。社区有多种推测，且Anthropic命名风格改变，新模型或下月发布。
SIGGRAPH 2025最佳论文出炉，清华、上科大、厦大获奖！谷歌拿下两篇
SIGGRAPH 2025技术论文奖项揭晓，投稿量首破970篇。5篇最佳论文涉及3D重建、图像个性化等前沿方向，清华、厦大、上科大均有入选，还有荣誉提名论文和时间检验奖论文公布。
震撼实锤！清华姚班校友揭「1.4×加速」陷阱：AI优化器为何名不符实？
为降低大模型预训练成本，近年新优化器频出，宣称加速1.4×到2×却难落地。斯坦福研究指出方法学缺陷，对比不同缩放范式加速差异，给出优化器设计见解，证实严格基准评测必要。
超低标注需求，实现医学图像分割！UCSD提出三阶段框架GenSeg
GenSeg用AI生成高质量医学图像及对应分割标注，在仅有几十张样本时也能训练出媲美传统深度模型的分割系统，显著降低医生手工标注负担。它是通用、与模型无关的框架，可集成到现有分割模型。
Dense、MoE之外第三条Scaling路径：交大提出JTok模块，省1/3算力
上海交通大学与小红书Hi Lab联合团队提出JTok/JTok - M模块，作为插件挂载在Transformer层，几乎不增算力和显存开销却显著提升性能。该模块构建新scaling路径，在多任务测试中全面提分，为大模型发展提供新方向。
模型之上，才是真正的资产
微软CEO萨蒂亚·纳德拉在《没有生态的前沿，立不住》中提出，每家公司未来要构建人力资本与Token资本。强调Token资本构建靠学习闭环，还提出检验公司是否拥有Token资本的方法，呼吁避免价值集中到少数模型公司。
强迫模型自我争论，递归思考版CoT热度飙升！网友：这不就是大多数推理模型的套路吗？
近日，概念CoRT火了，它在CoT基础上加了“递归思考”，能让AI递归思考响应、生成替代方案并选最优，结合“结构化自我批判”提升推理力。不过网友质疑它是“新瓶装旧酒”。