「LoRA训练方法」共找到 3289 篇相关文章
全网开测GPT-oss！技术架构也扒明白了
全网开测GPT-oss，它登顶开源模型王座，性能比肩o3-mini、o4-mini，适合本地推理。网友探索出多种用法，还推出Pro版。其架构也被扒出，官方介绍了微调方法，吴恩达等大佬也参与测评。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
The Btch：838 | 苹果加强生成式 AI 布局
苹果更新 Apple Foundation Models（AFM）系列，含设备端和服务器端版本，还发布 Foundation Models 框架。AFM 模型架构特别，训练有优化，测试表现有差异。此前苹果论文引争议，此次或是其重启 AI 战略之举。
ICML 2026 巡礼：注意力效率革命的九个切面
7月7日，ICML 2026进入正会第一天。雷峰网精选首日上午9篇论文，涵盖持续学习、多模态融合等方向，如MePo让预训练模型学会持续学习，HAF解决模态不平衡下的融合问题，展现AI研究前沿趋势。
首个时空时序推理框架：让大模型真正读懂时空数据 | ACL'26
STReasoner是首个结合时间序列、空间结构和自然语言的推理模型，能识别异常源、追踪影响路径。研究团队构建数据生成框架和评测基准，采用三阶段训练策略，模型在多任务表现优，成本低且泛化能力强。
Karpathy 亲手终结了RAG的草莽时代
Andrej Karpathy分享“LLM Wiki”工作流，将多数Token用于构建“可演化知识库”。此方法不依赖复杂架构，在中等规模数据集上展现出强大能力，引发“LLM Wiki杀死RAG”的讨论，在技术社区和企业级市场反响热烈。
如何定义“人味儿”？——HeartBench评测体系建设实践
在大模型竞争格局生变，情感智能评测缺失的背景下，作者团队发布聚焦AI拟人化的中文评测体系HeartBench，介绍其设计、评估方式、迭代过程等，还沉淀了评测体系构建方法论及专家标注管理思考。
Emu3.5：能够原生预测下一状态的多模态世界模型，媲美Nano Banana
北京智源研究院推出多模态世界模型Emu3.5，能原生预测视觉和语言下一状态。用超10万亿token数据预训练，后经强化学习训练。团队提出DiDA提升推理效率，其性能媲美Nano Banana，项目已开源。
让LLM扔块石头，它居然造了个投石机
港中大研究团队带来《Agentic Design of Compositional Machines》，推出BesiegeField平台，支持并行实验和大模型‘自我进化’。它将机械设计转为语言生成任务，通过闭环训练提升模型能力，多个模型测试表现良好。
腾讯与中科院联合提出R-4B，一个能自动决定是否思考的多模态大模型
多模态大语言模型“始终思考”模式有缺陷，腾讯混元团队与中科院自动化所联合提出R - 4B，通过双模式退火训练和双模式策略优化实现自动思考，在多评测中达SoTA，省资源且效果好。