「低成本训练」共找到 3853 篇相关文章
从零开始200行python代码实现LLM
文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。
Meta联合Google新作：语言模型到底“记”了多少东西？
Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。
LLM的“记忆外挂”来了！Supermemory新API：一行代码让LLM记忆“无限+省钱90%”
Supermemory公司发布Infinite Chat API，能让任何LLM有近乎无限上下文长度。用户一行代码就能切换，可扩展上下文、省90%成本、提性能，已上线，有免费试用额度，后续有固定费用和用量计费。
GPT-5 最强大的，是编程
据报道，OpenAI的GPT - 5即将到来且早期反馈积极。它在编程领域表现突出，尤其在实际编程任务上有提升，不过其具体形式存疑，改进或多来自后训练阶段的强化学习。
重大技术突破！微软发布BioEmu模型，蛋白质模拟从数年压缩至几小时
今天凌晨，微软CEO分享蛋白质模拟模型BioEmu，可将蛋白质动态模拟从数年缩至几小时，已在《自然》发表。它能解决传统方法难题，核心设计独特，训练整合多数据源、采用多阶段策略。
宇树机器人租不出去了
2025开年，宇树机器人因春晚表演成“顶流”，人形机器人租赁爆发。但热潮渐退，其租赁市场萎缩，复购率低。技术上实现简单动作难，商业化前景存疑，行业凸显理想与商业的矛盾。
OpenAI公告正经解释：为什么GPT-5.5爱说“哥布林”
OpenAI官网发公告回应GPT-5.5爱说“哥布林”问题。原来是对“书呆子”人格训练时，无意中对使用生物比喻的模型给予高奖励，导致“哥布林”表述扩散。之后移除相关奖励和过滤数据来解决。
视频生成1.3B碾压14B、图像生成直逼GPT-4o！港科&快手开源测试时扩展新范式
香港科技大学联合快手可灵团队推出 EvoSearch 方法，支持图像和视频生成。该方法无需训练和梯度更新，能提升模型生成质量，展现了 test - time scaling 补充 training - time scaling 的潜力，目前论文和代码已开源。
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
从 RLVR 到 RLSVR：开放式任务如何获得可核验奖励
COLM 2026 论文提出 RLSVR 及 SpyRL，把摘要等开放任务变成“谁是卧底”游戏，用投票生成可核验奖励，在多任务有提升，但也暴露代理目标与质量关系、成本等问题。