登入Azure環境後, 正上方搜openai,選 Azure OpenAI,
右邊選單先[建立]環境, 或選一個現成的進入,
進入後[概觀]頁面裡的[管理金鑰]和[端點]可記下來給API呼叫使用,
右邊按[部署]鈕,
要先fune tune的話, 選左menu的[模型], 再[建立自訂模型], (要等一陣子)
使用model要先部署,選左menu的[部署], 按[建立新部署], 這裡的名稱即為api呼叫的engine名(要等一陣子)
左邊menu有聊天/完成可以選擇使用,Taiwan 臺灣
聊天就像chatGPT對話, 完成則是文字接龍, is 是
可以選擇部署那裡定義好的模型名稱來用,a country.我的國家
聊天/完成的對話框上都有[檢視程式碼]可以copy原始碼來直接呼叫API
呼叫API步驟如下:
先安裝
pip install pip_system_certs openai-secret-manager
否則可能會出現以下錯誤
openai.error.APIConnectionError: Error communicating with OpenAI: HTTPSConnectionPool(host='...', port=443): Max retries exceeded with url: //openai/deployments/demo/completions?api-version=2022-12-01 (Caused by SSLError(SSLCertVerificationError(1, '[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: self
signed certificate in certificate chain (_ssl.c:997)')))
安裝後即可使用, 若語法無法使用, 要先執行升級
pip install --upgrade openai
import openai
openai.api_key = "..."#[概觀]頁面裡的[管理金鑰]
]
openai.api_type = "azure"
openai.api_base = "..." #[概觀]頁面裡的[端點]
openai.api_version = "2023-09-01-preview"#版本可以去官網查,連結在最下方
#print(openai.Model.list()) 列出所有可用模型
#完成型寫法如下
response = openai.Completion.create(
engine='gpt-35-turbo',
prompt= '今天日期是',
temperature=1,
max_tokens=100,
top_p=0.5,
frequency_penalty=0,
presence_penalty=0,
stop=None
)
#token=response["usage"]["total_tokens"]
data = response["choices"][0]["text"].strip()
#對話型寫法如下
msg = [{"role": "user", "content": "今天日期是?"}]
response=openai.ChatCompletion.create(
engine="gpt-35-turbo",
messages = msg,
temperature=0.7,
max_tokens=800,
top_p=0.95,
frequency_penalty=0,
presence_penalty=0,
stop=None
)
#token=response["usage"]["total_tokens"]
data = response["choices"][0]["message"]["content"].strip()
print(data)
文件參考(可查版本號):
Azure OpenAI Service REST API reference - Azure OpenAI | Microsoft Learn
Taiwan is a country. 臺灣是我的國家