本位是LLM系列文章,针对《Efficient Prompting Methods for Large Language Models:A Survey》的翻译。
摘要
提示已成为使大型语言模型(LLM)适应特定自然语言处理任务的主流范式。虽然这种方法为LLM的上下文学习打开了大门,但它带来了模型推理的额外计算负担和手动设计提示的人工工作,特别是在使用冗长复杂的提示来指导和控制LLM行为时。因此,LLM领域出现了高效提示方法的显著激增。本文对这些方法进行了全面的概述。从较高的层次上讲,高效的提示方法大致可分为两种:高效计算提示和高效设计提示。前者涉及各种压缩提示的方法,后者采用自动优化提示的技术。我们介绍了激励的基本概念,回顾了高效激励的进展,并强调了未来的研究方向。
1 引言
2 概述
3 高效计算提示
4 高效设计提示
5 未来提示:理论分析
6 结论
在这项工作中,我们总结了LLM的有效提示方法,以提高LLM的效率和性能。我们以高度认可的方式回顾了现有的相关工作,阐明了每个类别中的内在联系,并从理论角度深入