「指令微调」共找到 532 篇相关文章
大模型“拼好题”，45K数据撬动18%提升，数学问题拒绝死记硬背 | MathFusion
上海AI Lab等团队提出MathFusion，通过三种“融合策略”生成新的融合数据集MathFusionQA，仅用45K合成指令，在多基准测试中平均准确率提升18.0个百分点，增强模型解决数学问题的能力。
号称1200万token上下文的模型来了，数据亮眼但疑点重重
当地时间5月5日，Subquadratic公司推出模型SubQ，称是LLM智能重大突破，有1200万token上下文。数据亮眼，如在1M token场景比FlashAttention快52倍等，但也引发质疑，有人推测是对开源模型微调，官方未公布详细模型卡。
《动手写AI Agent》上下文工程：比 Prompt Engineering 更重要的事
文章围绕AI Agent的上下文工程展开，指出其比Prompt Engineering更重要。介绍了上下文工程的分层组织，包括角色定义、通用规则、项目状态和用户指令，还提及项目感知、.ling.md文件及完整System Prompt的组装。
一句话启动AI打工人？我用Claude Skills做了个“微博热搜挖掘机”，效率炸了！
作者黄叔分享用Claude Skills做“微博热搜挖掘机”，介绍其类似给AI员工发《员工手册》，还讲了准备工作，如获取微博热搜接口，输入指令后Claude自动干活，成果可观，Claude Skills适合普通人入门。
The Batch: 849 | 用于训练网页智能体的生成数据
开发网页智能体常需大量人力标注训练样本，卡内基梅隆大学与亚马逊团队实现训练数据生成自动化。他们构建数据集，通过智能体工作流程生成数据，微调后 Qwen3 - 1.7B 表现出色，还公开数据与方法。
奖励模型预训练新范式POLAR：突破强化学习短板，有望打通RL链路扩展“最后一环”
强化学习中奖励模型设计与训练是瓶颈，上海人工智能实验室提出奖励建模新范式POLAR。它摆脱传统“绝对偏好”限制，契合强化微调框架，通过对比学习训练，实验证明其性能和泛化性佳，有望打通RL链路扩展最后一环。
Mistral AI发布一站式编程助手Mistral Code
法国开源大模型平台Mistral AI发布一站式编程助手Mistral Code，旨在解决企业开发人员使用AI编码工具时的合规与安全障碍。它基于Continue开发，集成四个大模型，还能在私有代码库微调，获早期客户认可。
训练加速1.8倍，推理开销降78%！精准筛选题目高效加速RL训练丨清华KDD
清华大学THU-IDM团队与慕尼黑大学CompVis团队合作提出MoPPS框架，解决强化微调代价高问题。它精准挑题，预测难度，开销低、动态适应且平衡探索利用，在多任务表现佳，降本增效，有新范式。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
全网开测GPT-oss！技术架构也扒明白了
全网开测GPT-oss，它登顶开源模型王座，性能比肩o3-mini、o4-mini，适合本地推理。网友探索出多种用法，还推出Pro版。其架构也被扒出，官方介绍了微调方法，吴恩达等大佬也参与测评。