微调这件小事：深入修改源码，实现LLaMA-Factory同时测试多个数据集并汇总结果

"第一轮指令（选填）", "第一轮回答（选填）"],["第二轮指令（选填）", "第二轮回答（选填）"]"instruction": "人类指令（必填）","system": "系统提示词（选填）","system": "系统提示词（选填）","output": "模型回答（必填）","input": "人类输入（选填）","value": "人类指令""value": "工具参数""value": "工具结果""value": "模型回答""tools": "工具描述（选填）"

在大模型训练的过程中，会用到高昂的设备，涉及到复杂的配置，伴随着很大的成本。阿里云PAI平台提供了一站式的AI开发全链路服务，提供从数据标注（PAI-iTAG）到模型开发（Designer）到模型训练（DLC / 灵骏）到模型部署（EAS）到模型运维（资产管控）的完整闭环，对学习Ai的萌新非常友好，可以在这里以比较低的价格租到强力的显卡，比如NVIDIA A10。验证集：验证超参数是否是合适的，如何不合适，调整超参数，重新使用训练集再次训练，反复迭代比较，获取到基本的模型。选择evalate评估模型，

本文所有操作均在linux系统下完成。

本文为 llama-factory SFT系列教程的第二篇；实现了在自定义数据集上 lora 微调大模型；接着融合lora权重进行大模型推理的功能

本文介绍了初学者如何使用LLaMA-Factory进行大模型的微调，包含训练、测试数据集的构建，训练任务相关的参数，训练完成后的测试集上推理等环节

其实LLaMA-Factory的执行路径很简单，本质上就是靠webui收集微调参数，靠launcher执行微调算法。只是中间多了两步命令行执行以实现分布式微调，结果增大了调试的难度。如果想深入探索LLaMA-Factory的算法实现，那就先设法生成文件，再根据这个文件去调试。

LLaMA-Factory 简介LLaMA-Factory 是一个开源项目，它提供了一套全面的工具和脚本，用于微调、提供 LLaMA 模型并对其进行基准测试。LLaMA(大型语言模型适应)是由 Meta AI 开发的基础语言模型的集合，在各种自然语言任务中表现出强大的性能。项目地址: https://gitcode.com...

14、输出目录：会自动生成一个路径，要确保每次的目录都不相同，若已存在，则需要去服务器上删除，目录在llamafactory-save目录下。11、截断长度：长度越长越占显存，根据样本里的文本长度，大部分数据的最大长度值即可，比如，有90%的样本数据的长度是200，这里填写200.12、批处理大小：超参数，需要根据你服务器的配置，尝试运行几次，找到资源利用率最高的数值。4、对话模板：不同的模型对应的对话模板是不一样的。3、检查点路径：训练过程中保存的权重，可从其中的一个权重重新训练。

本文介绍了使用LLaMA-Factory微调训练Qwen2-VL-7B视觉大模型的完整流程。内容包括环境安装（AutoDL部署、LLaMA-Factory安装）、模型下载（通过ModelScope获取Qwen2-VL系列模型）、数据集制作（基于特定任务的JSON格式数据构建）以及模型测试方法。文章还提供了相关视频教程和GitHub资源链接，涵盖从数据准备到模型训练的各个环节，为开发者实现多模态大模型微调提供了详细指导。特别展示了学生行为识别任务的训练数据样例，包含图像路径和对应的问答标注。

修改yaml文件的路径，根据自己的模型以及数据修改，我是以llama3_lora_sft.yaml为例，修改以下几处地方。二、进入/home/lly/LLaMA-Factory，切换到llamafactory_test的conda环境下。一、进入/home/lly/LLaMA-Factory/examples/merge_lora目录底下。注：llamafactory为conda环境，根据自己的conda环境进行修改。三、利用T65的镜像推理合并后的模型。创建自己的conda环境。运行如下脚本，合并模型。

LLaMA-Factory 是一个多功能的语言模型微调框架，它提供了一系列工具和方法来微调和优化大型语言模型。本文将教大家如何在矩池云使用LLaMA-Factory快速训练属于自己的专属模型。

LLaMA-Factory是开源的大模型微调框架，在模型微调方式、参数配置、数据集设置、模型保存、模型合并、模型测试以及模型试用上，提供了非常完备的开发接口。

根据LLaMa-Factory的README，我们需要在中按照以下格式注册自定义的数据集。"数据集名称": { "file_name": "data.json", "columns": { "prompt": "text" } }我们在在},在中，注册新添加的数据集。},

1. 准备好硬件（GPU）、数据；通过各方面的资讯选中你想要微调的基座模型2. 准备好代码：输入数据 + 模型 -> 在GPU上反复训练3. 训练结束以后，得到训练过程中的checkpoint + 一些log信息4. 根据log信息选一些比较有希望的checkpoint在自己的测试集上推理，获得相应的结果5. 分析结果，获得下一轮实验（数据、训练方案的迭代）思路而LLaMA-Factory就是一个很好的负责step。