「LLM微调库」共找到 1420 篇相关文章
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。
ICCV 2025 | HERMES：首个统一3D场景理解与生成的世界模型
本文介绍HERMES，首个统一3D场景理解与生成的世界模型。它由华中科技大学等团队合作研发，通过共享LLM驱动两大任务，解决了输入处理和任务融合难题，实验效果显著，为自动驾驶提供新范式。
BLIP3-o统一图像生成与理解，多模态融合趋势显现
BLIP3 - o致力于统一图像理解和生成，提升生成质量与效率。它融合自回归和扩散模型，采用CLIP + Flow Matching架构等。经训练，在图像理解和生成任务表现佳，指令微调效果显著。
冲击自回归，扩散模型正在改写下一代通用模型范式
Google I/O 2025 开发者大会上，Gemini Diffusion 引发关注，它是采用扩散模型的语言模型。此前已有团队探索扩散式 LLM，如斯坦福、上海 AI 实验室等。蚂蚁集团和人大推出 LLaDA，后发展出多模态模型，国内团队跻身前列。
Self-Evolving 会是 2026 关键词吗？
2025年，Agent应用发展使LLM‘静态’局限成AI瓶颈，业界重视自进化能力，聚焦‘持续适应系统’。但该领域缺统一标准，有思潮认为统一标准、集体探索将带来机遇。还介绍了研究进展、重点演变等。
通用的dLLM开发框架，让BERT掌握扩散式对话
扩散式语言模型（DLM）因缺乏易用框架和训练成本高受限。伯克利与UIUC团队基于dLLM框架，让BERT学会对话，证明‘离散扩散 + 轻量级指令微调’可赋予BERT强生成能力，还开源全流程代码。
Andrew Karpathy最新访谈：RL很糟糕、人类学习和教育、智能和文化的演变、AGI还要十年，将带来2%的GDP增长
Dwarkesh Patel 播客对 Andrej Karpathy 进行深度访谈。他认为 AGI 还需十年，目前算法有缺陷；强化学习虽有问题但必要；分析了 LLM 局限，探讨人类学习机制、AGI 经济影响等多方面内容。
表格理解新纪元！上交大等联合开源，半结构化表格问答准确率提升40%！
数据密集型工作中半结构化表格处理难，传统工具和GPT - 4o表现不佳。上海交通大学等联合开源ST - Raptor，通过VLM、HO - Tree算法和LLM推理，解决复杂表格问答问题，支持多格式，适用于多场景。
大模型解数学题是真懂还是 “死记硬背”？｜首个反例驱动的数学推理基准揭穿 “刷题式假象”！
随着大语言模型在数学领域应用渐广，其是否真具备数学推理能力成焦点。清华等团队提出反例推理评测基准COUNTERMATH，测试20+主流模型，结果不佳，而小样本微调能显著提升模型能力。
DeepSeek悄悄更新：Mega MoE、FP4 Indexer来了
昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。