关于微软azure openai接口调用的问题记录

在进行azure的配置时,涉及到几个重要的概念:
学生认证之后会送100USD
部署(deployment)是自定义名称的,每个部署可以选择不同的模型
模型(model)是针对一个部署来讲,通常可选gpt-4,gpt-3.5turbo等

1.注意!上述的“model”与在项目中调用时所填内容不一样,用azure所提供的接口时,

项目中的model一般只写部署名,因为部署与所用的模型是一一对应的

2.有时会有报错说:xml.etree.ElementTree.ParseError: no element found: line 90, column 32

经测试,大概率是因为azure的接口限速所导致的,因为限速1000

而原来的代码里设置的max_token为4096,会导致模型的输出不完整,从而使xml格式错误

如何解决:azure好像只能给学生用户1000的速率,不知道怎么改

那么是否可以改用deepseek的接口?这样效果可能会更好

或者本地部署LLM??

### 如何调用 Azure OpenAI API Azure OpenAI 是基于 Microsoft Azure 平台的服务,允许开发者通过 RESTful API 或 SDK 来访问预训练的语言模型。以下是关于如何调用 Azure OpenAI API 的详细说明。 #### 请求格式 请求通常采用 HTTPS POST 方法发送到特定的终结点 URL。API 支持 JSON 数据格式作为输入和输出。以下是一些关键字段及其含义: - **`endpoint`**: 这是用于连接到 Azure OpenAI 服务的具体 URL 地址。它通常是类似于 `https://<your-resource-name>.openai.azure.com/openai/deployments/<deployment-id>/chat/completions?api-version=<version>` 的形式[^1]。 - **`headers`**: 需要设置两个主要头部信息: - `Content-Type`: 设置为 `application/json` 表明传输的数据类型。 - `api-key`: 替换为你自己的 Azure OpenAI 密钥以验证身份。 - **`body`**: 包含实际的请求数据,例如提示 (`prompt`) 和其他可选参数 (如最大令牌数、温度等)。对于聊天完成接口,可以使用如下结构: ```json { "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Tell me about Azure OpenAI."}, {"role": "assistant", "content": ""} ], "max_tokens": 50, "temperature": 0.7 } ``` #### 示例代码 下面是 Python 中的一个简单示例来展示如何调用 Azure OpenAI 的 Chat Completion 接口: ```python import requests import json url = "https://<your-resource-name>.openai.azure.com/openai/deployments/<deployment-id>/chat/completions?api-version=2023-03-15-preview" headers = { 'Content-Type': 'application/json', 'api-key': '<your-api-key>' } data = { "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "What is Azure OpenAI Service?"}, {"role": "assistant", "content": ""} ], "max_tokens": 80, "temperature": 0.9 } response = requests.post(url, headers=headers, data=json.dumps(data)) print(json.loads(response.text)['choices'][0]['message']['content']) ``` 此脚本会向指定部署发起一个对话请求并打印返回的结果[^4]。 #### 安全特性与注意事项 当利用 Azure OpenAI 时,用户能够享受到由微软提供的额外安全保障措施,比如私有网络隔离以及区域冗余支持等功能[^3]。因此,在设计应用程序架构的时候应该考虑到这些优势以便更好地保护敏感数据不被泄露出去。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值