开源的领域偏好路由决策语言模型速览：Arch-Router-1.5B

katanemo_Arch-Router-1.5B

一、研究背景与目的

随着大型语言模型（LLMs）的迅速发展，不同模型在各自优势、风格或延迟 / 成本特性上各有侧重。在这种背景下，路由技术成为了合理运用不同模型的关键手段。但现有 LLM 路由方法存在两大局限：一是性能评估所依据的基准测试，往往难以捕捉基于主观评估标准的人类偏好；二是通常只能从有限的模型池中进行选择。

基于此，论文提出了一种偏好对齐的路由框架，旨在通过将查询与用户定义的领域（如旅行）或操作类型（如图像编辑）相匹配，为路由决策提供一种实用的偏好编码机制。

二、技术框架介绍

1. 核心 模型论文介绍的 Arch-Router 是一个紧凑的 1.5B 模型，其主要功能是学习将查询映射到领域 - 操作偏好，以用于模型路由决策。在对话数据集上的实验表明，该方法在匹配查询与人类偏好方面取得了最先进的（SOTA）结果，超越了顶级专有模型。

2. 关键概念

   • 领域（Domain） ：即请求的高级主题类别或主题内容，例如法律、医疗保健、编程等。

   • 操作（Action） ：指用户希望执行的特定操作类型，比如总结、代码生成、预约、翻译等。

每个领域和操作配置都与首选模型或模型变体相关联。在推理过程中，Arch-Router 会分析传入的提示，利用语义相似性、任务指示符和上下文线索来推断其领域和操作，然后应用用户定义的路由偏好来选择最适合处理请求的模型。

三、优势特点

1. 结构化偏好路由 ：通过显式的领域 - 操作映射，将提示请求与模型优势对齐。

2. 透明且可控 ：使路由决策透明且可配置，赋予用户自定义系统行为的权力。

3. 灵活且适应性强 ：支持不断演变的用户需求、模型更新以及新领域 / 操作，而无需重新训练路由器。

4. 生产级性能 ：针对多模型环境中的低延迟、高吞吐量应用进行了优化。

四、实现方法与要求

1. 代码位置与安装 Arch-Router-1.5B 的代码已在 Hugging Face transformers 库中，建议安装最新版本，可通过 pip install transformers>=4.30.0 进行安装。

2. 使用示例

   • 导入相关模块 ：从 typing 导入 Any、Dict、List 等类型提示，从 transformers 导入 AutoModelForCausalLM 和 AutoTokenizer。

   • 模型与分词器加载 ：指定模型名称为 “katanemo/Arch-Router-1.5B”，使用 from_pretrained 方法加载模型和分词器。

   • 任务指令与格式提示 ：遵循论文提供的特定提示格式，包括任务指令和格式提示，用于指导模型进行路由决策。

   • 定义路由配置 ：以代码生成、修复错误、性能优化等操作为例，构建路由配置列表，每个路由包含名称和描述。

   • 格式化提示 ：通过定义的辅助函数 format_prompt，结合路由配置和对话内容生成系统提示。

   • 对话定义 ：构建包含用户角色和内容的对话列表。

   • 模型输入与输出 ：将对话内容转换为输入 id，通过模型生成输出，再对输出进行解码和处理，最终得到路由决策结果。

五、总结与核心技术创新点

论文提出了一种新型的偏好对齐路由框架 Arch-Router，针对现有 LLM 路由方法的局限性，通过领域 - 操作映射实现精确的模型选择。其创新点在于提供了透明可控的路由决策机制，能够灵活适应多样化需求和模型更新，并且在性能上进行了优化，以满足生产环境的要求。该研究成果有望推动大型语言模型在实际应用中的高效利用和个性化服务。

核心技术总结如下表：