「训练方法」共找到 3281 篇相关文章
256G内存条涨到天价：不是内存条疯了，是算力正在变成新土地
近期，256GB内存条单根突破4万元。这并非普通DDR5，而是服务器专用内存。其价格飙升源于供需错配，大模型训练对大容量内存需求极端。有人认为是泡沫，也有人觉得是结构性变化。
视觉思维链全新架构，加州大学让多模态大模型有了灵性，整体性能提升5.3%
加州大学伯克利分校等团队提出视觉思维链（CoVT）架构，让视觉语言模型推理时生成连续视觉信号。它内化轻量级专家能力，采用对齐策略和四阶段训练，实验显示性能提升，还具可解释性。
100美元、8000行代码手搓ChatGPT，Karpathy最新开源项目爆火，一夜近5k star
AI大神Andrej Karpathy发布开源项目nanochat，可教你100美元自建ChatGPT，覆盖LLM训练和推理。项目有8000行代码，不到12小时获超4500 star，功能丰富，但他认为它不适合个性化应用。
越可靠的AI就越人机，牛津大学：高情商模型错误率显著增加
牛津大学研究指出，训练模型变得温暖且富有同理心，会使其不太可靠且更奉承。温暖模型错误率较原始模型显著增加，对情绪上下文敏感，在用户表达情感与错误信息时失效常见。
多模态大模型，真的「懂」世界吗？——揭秘 MLLM 的核心知识缺陷
ICML 2025高分论文揭示MLLM核心认知盲区。研究发现主流MLLM缺乏核心认知能力，且不能靠规模扩展自然习得。作者构建测评体系CoreCognition，提出干预测试方法Concept Hacking，还给出关键发现与启示。
人类击败OpenAI守住编程冠军！10小时激战两次反超，AI最后关头功亏一篑
在AtCoder世界巡回总决赛编程赛中，OpenAI的OpenAI - AHC前期领先，后半程失误，人类选手Psycho两次反超夺冠。Psycho曾在OpenAI训练AI战胜人类，此次挑战老东家获胜。
航空发动机用上大模型：解决复杂时序问题，性能超越ChatGPT-4o实现SOTA｜上交创智复旦
上海交通大学李元祥教授等团队提出ITFormer架构，构建EngineMT-QA数据集。ITFormer能融合时序数据与大语言模型，适配多种编码器和模型，在EngineMT-QA预训练后达SOTA水平，实现高效数据分析。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
单卡即可微调大模型！内存占用仅1/8，性能依然拉满 | ICML 2025
基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。
字节跳动发布SeedFold，蛋白质结构预测相关多任务超越谷歌AlphaFold 3，揭示大模型缩放新秘诀
字节跳动Seed团队推出新一代折叠模型SeedFold，在多个蛋白质相关任务性能上超越谷歌AlphaFold 3。该研究为有效缩放生物分子基础模型提供新思路，推出加宽模型、线性三角注意力等方法。