DoRA项目使用教程

DoRA项目使用教程

DoRA [ICML2024 (Oral)] Official PyTorch implementation of DoRA: Weight-Decomposed Low-Rank Adaptation 项目地址: https://gitcode.com/gh_mirrors/dora2/DoRA

1. 项目目录结构及介绍

DoRA项目目录结构如下：

DoRA/
├── commonsense_reasoning/         # 用于常识推理任务
├── instruction_tuning_dvora/     # 用于指令调整任务
├── image_video_text_understanding/ # 用于图像/视频-文本理解任务
├── visual_instruction_tuning/     # 用于视觉指令调整任务
├── .gitattributes
├── .gitignore
├── LICENSE
└── README.md                      # 项目说明文件

• commonsense_reasoning/：该目录包含用于常识推理任务的代码，基于LLM-Adapter进行修改。
• instruction_tuning_dvora/：此目录包含使用DoRA和DVoRA（DoRA+VeRA）对LLaMA-7B和LLaMA2-7B进行指令调整的代码，基于VeRA进行修改。
• image_video_text_understanding/：此目录包含用于图像/视频-文本理解任务的代码，基于VL-Adapter进行修改。
• visual_instruction_tuning/：该目录包含用于视觉指令调整任务的代码，基于LLaVA进行修改。
• .gitattributes：用于定义Git仓库中文件的属性。
• .gitignore：用于指定Git应该忽略的文件和目录。
• LICENSE：项目许可证文件。
• README.md：项目说明文件，包含了项目的基本信息和如何使用项目的说明。

2. 项目的启动文件介绍

项目的启动文件通常位于各个子目录中，具体如下：

• commonsense_reasoning/ 中的 run_finetuning.sh 是启动常识推理任务训练的脚本。
• instruction_tuning_dvora/ 中的 run_tuning.sh 是启动指令调整任务训练的脚本。
• image_video_text_understanding/ 中的 run_finetuning.sh 是启动图像/视频-文本理解任务训练的脚本。
• visual_instruction_tuning/ 中的 run_finetuning.sh 是启动视觉指令调整任务训练的脚本。

这些脚本通常包含了运行训练任务所需的环境配置、命令和参数。

3. 项目的配置文件介绍

项目的配置文件位于各个子目录的配置文件中，具体如下：

• commonsense_reasoning/ 中的 config.json 是常识推理任务的配置文件。
• instruction_tuning_dvora/ 中的 config.json 是指令调整任务的配置文件。
• image_video_text_understanding/ 中的 config.json 是图像/视频-文本理解任务的配置文件。
• visual_instruction_tuning/ 中的 config.json 是视觉指令调整任务的配置文件。

这些配置文件通常包含了如下信息：

• 模型配置：如模型类型、模型大小等。
• 数据集配置：如数据集路径、预处理参数等。
• 训练配置：如学习率、批大小、训练周期等。
• 评估配置：如评估指标、保存频率等。

用户可以根据自己的需求修改这些配置文件，以适应不同的任务和硬件环境。

DoRA [ICML2024 (Oral)] Official PyTorch implementation of DoRA: Weight-Decomposed Low-Rank Adaptation 项目地址: https://gitcode.com/gh_mirrors/dora2/DoRA