Q-PEFT: Query-dependent Parameter Efficient Fine-tuning for Text Reranking with Large Language Model

本文是LLM系列文章，针对《Q-PEFT: Query-dependent Parameter Efficient Fine-tuning for
Text Reranking with Large Language Models》的翻译。

摘要

参数高效微调（PEFT）方法已被广泛应用于大型语言模型（LLM）中，以改进下行任务，而无需对整个LLM进行微调。最近的研究表明，如何有效地使用PEFT来微调LLM，以对具有令人信服的表现的任务进行排名；存在一些局限性，包括针对不同文档的学习提示是固定的，对特定任务的过度拟合，以及适应能力低。在本文中，我们提出了一种用于文本重新排序的查询相关参数高效微调（Q-PEFT）方法，该方法为LLM提供了关于真实查询的见解，从而促进了从输入文档生成真实查询。具体来说，我们利用查询从连接的文档中提取top-k token，作为上下文线索。我们通过用多头注意力层替换检索机制来进一步增强Q-PEFT，以实现端到端的训练，并覆盖文档中的所有token，引导LLM生成更多特定于文档的合成查询，从而进一步提高重新排序性能。在四个公共数据集上进行了广泛的实验，证明了我们提出的方法的有效性。

1 引言