自從 OpenAI 推出了 ChatGPT 之後,整個 AI 又火熱了起來,大家看到了更多的應用和創意紛紛冒了出來,而微軟也在 Azure 上推出了 Azure OpenAI Service 讓我們可以建立自己的 OpenAI 服務,就在 OpenAI 開放 ChatGPT API 之後,微軟也終於在前陣子也正式公告把 ChatGPT 模型加入 Azure OpenAI Service 裡面,讓我們可以用這一個更強大的模型來建立相關的應用了,接下來會針對 Azure OpenAI Service 把研究和使用的心得陸續寫成系列文章,本文為導覽頁面,方便後續找尋文章。
基本概念
首先在開始前先來說明一些基本概念,這樣對於我們後面在使用 OpenAI 上會比較理解名詞或是如何使用。
模型
OpenAI 提供了數種 AI 的模型系列,不同模型因為在訓練模型的時候會用不同的資料集和和資料量,所以會有不同的使用場景和預測能力,當然價錢也就會有差別,後面會再詳細介紹有哪些模型。
Token
OpenAI 會將文字細分成 Token 來處理,Token 的計算會根據不同模型會有所差異,而在計費上面便是以 Token 數來計費的。
Prompt (提示) 和 Completions (完成)
這個是很重要的一個概念,在使用 OpenAI 的時候核心就是使用我們提供的 Prompt ,然後 OpenAI 透過模型計算之後產生對應的結果來完成整個情境,所以 Prompt 下的好不好會大大的影響產出的結果。
OpenAI 和 Azure OpenAI
OpenAI 是一家提供 AI 模型的公司,微軟也有投資以及合作共同開發 API,所以基本上在 OpenAI 上和 Azure OpenAI 呼叫 API 是可以快速轉移的,微軟和 OpenAI 會確保相容性。但是在 Azure OpenAI 上因為建置在 Azure 上,所以還會有以下的不同:
- 企業合規性
- 整合 AAD
- 整合 VNet
- 防火牆設定
- 多區域可用/災難備援
- SLA 保證
- …
以上列出部分在 Azure 上使用多出來的好處,對於企業使用上就會更加方便了。
微調 (Fine-tune)
透過 Prompt 也無法讓結果更如預期,可以提供較大量的資料來微調模型,讓回覆可以更符合預期。
官方學習資源
- Explore the OpenAI API
OpenAI 官方 API 文件,因為 Azure OpenAI 呼叫和使用方式是一樣的,可以參考文件來瞭解該如何下條件給 API。 - Advice and answers from the OpenAI Team
OpenAI 官方說明手冊,可以找到一些問題的 QA 和建議。 - Azure OpenAI Service 文件
微軟官方 Azure OpenAI 文件,有較詳細的服務介紹和說明。 - Azure OpenAI 服務簡介
微軟官方 Azure OpenAI 學習課程,可以透過一步一步的教學課程去瞭解 Azure OpenAI。 - openai/openai-cookbook
OpenAI 官方教學和程式範例,也有 Azure OpenAI 相關的章節。
官方應用範例
- Revolutionize your Enterprise Data with ChatGPT: Next-gen Apps w/ Azure OpenAI and Cognitive Search
結合 Azure OpenAI Service 和 Azure Cognitive Search 提供企業內部對話式搜尋體驗的範例程式。 - Visual ChatGPT
整合 ChatGPT 和 Visual Foundation Models 實現在對話中傳送和接收圖片的範例。 - Build Intelligent Applications using ChatGPT & Azure Cosmos DB
結合 Azure OpenAI Service 和 Azure Cosmos DB 實做自己的 ChatGPT 範例。
系列文
後續會針對底下主題分享學習心得以及深入探討:
- Azure OpenAI 模型介紹
- 深入探討 Token 和計算
- Azure OpenAI Service 服務建立和使用
- 使用 Azure OpenAI Studio 來測試模型部署
- 透過 Azure OpenAI client library for .NET 實做串接 OpenAI Api
- 費用說明和計算
- 在 Azure OpenAI 使用自己的資料集
- Azure OpenAI DALL·E 介紹和實做串接
- Function Calling 介紹和實做串接
- 使用 BetterChatGPT 在 Azure 部署私有的 ChatGPT 站台
- Azure OpenAI Whisper 介紹和實做串接
- GPT-4 Turbo with Vision 簡介及增強模式實做
- Azure OpenAI Assistants API 介紹和基本實做
- Azure OpenAI Assistants API 方法完整介紹和實做
- Azure OpenAI Assistants API 工具介紹
- 在 Logic App 結合 Azure OpenAI
- 深入探索新版 Azure OpenAI Studio:輕鬆部署多模態模型與高效運用 GPT-4o 和 GPT-4o Mini 以及實作程式串接