--stage sft:
训练阶段。这里指定为sft,表示进行模型的微调(self-supervised fine-tuning)阶段。
--do_train:
是否进行训练,设置为True表示进行训练。还可以设置为(--do_eval:表示评估,--do_predict:表示预测)
--dataset self_cognition:
dataset表示数据集。这里指定为self_cognition,表示使用自我认知数据集。
--model_name_or_path /ossfs/workspace/models/Chinese-Llama-2-7b:
model_name_or_path表示预训练模型的名称或路径。这里指定为/ossfs/workspace/models/Chinese-Llama-2-7b,表示加载路径下的预训练模型。
--output_dir /ossfs/workspace/llama2-sft/checkpoint-01:
output_dir训练输出目录。训练过程中生成的模型和日志将保存在该目录下。
--template default:
template模板名称。这里指定为default