「LLM微调库」共找到 1420 篇相关文章
OpenAI 也把工程师经验“蒸馏”进 skill 了！Harness 爆文作者曝内部玩法：一个百万行代码系统，全程零人工编码和审核
OpenAI的Ryan Lopopolo分享Frontier团队工作方式，他们维护超百万行代码库，零人工编码和审核。实验产出Symphony，推动coding agent成“队友”。还探讨模型使用、构建速度、人类角色等问题，认为人成瓶颈，软件要适配模型。
必看！Sebastian Raschka新博客盘点了所有主要注意力机制
著名AI技术作家Sebastian Raschka发布博客《现代LLM中注意力变体的可视化指南》，回顾近年开发并用于开放权重架构的注意力变体，包括多头、分组查询、多头潜在等注意力机制，还分析各机制特点、应用场景及优劣势。
Karpathy最新手搓！复现GPT-2成本狂降600倍：仅需507元3小时训练「最好的AI学习项目」
Andrej Karpathy的个人项目nanochat更新，现训练GPT - 2级别的LLM成本低于100美元，在单个8XH100节点上仅3小时花约73美元，较7年前成本降600倍，还列出关键优化技术，设排行榜。
卡帕西：强化学习很糟糕，但其他所有方法都更糟
卡帕西在近两小时访谈中解答诸多问题。他认为AGI成熟约需十年，现有的LLM有认知缺陷，强化学习糟糕但其他方法更差，AGI将延续2%GDP增长趋势，还谈及自动驾驶、教育等方面看法。
超越DeepSeek-R1，英伟达开源新王登顶！14万H100小时训练细节全曝光
英伟达Llama - Nemotron系列模型超越DeepSeek - R1且全部开源。论文揭秘其训练关键，如用合成数据监督微调与强化学习等。还介绍构建阶段、架构设计等，评估显示该系列模型在多任务表现出色。
Qwen3-Embedding 全揭秘：从技术到服务，打造高效AI产品的关键路径
文章全面揭秘 Qwen3-Embedding，介绍其核心原理、优势、应用场景。还给出在 PAI 和百炼平台的使用方法，含部署、推理、微调等。通过对比实验，凸显其低延迟、低成本特点，未来将成语义理解核心设施。
性能暴涨50%！谷歌、微软、OPPO 联手开源Agent “经验炼金术”
谷歌DeepMind、微软研究院、OPPO等机构开源`AGENT KB`项目，提出并实现“AI经验库”概念。它有“师徒模式”工作流，设计了从“原始日志”到“结构化经验”的构建流程，应用时分层调用知识，能让Agent性能飙升。
告别昂贵人工标注，英伟达全自动视频理解助力小模型逆袭顶级大模型
麻省理工、英伟达等推出FoundationMotion，它是全自动数据生成流水线，能解决运动数据稀缺难题。通过自动标注生成问答数据，让小模型经微调后在运动理解上超越顶尖闭源模型，还介绍了其数据生成、问答设计等环节。
32B逆袭GPT-5.2：首个端到端GPU编程智能体框架StitchCUDA问世
现有LLM自动化CUDA方法难处理端到端GPU程序，StitchCUDA提出多智能体框架+基于Rubric Reward的Agentic RL方案，分解任务、优化训练，在实验中成功率和加速比远超其他方法，解决Reward Hacking问题。
一篇最新自演化AI Agents全新范式系统性综述
传统LLM Agent工作流固化，面对动态环境只能人工硬编码，成本高、迭代慢。此55页综述提出“Self - Evolving AI Agents”新范式，让Agent自主优化自身结构，还给出三定律、统一框架及各类优化方法。