Azure OpenAI Service - Azure OpenAI Service 概觀

自從 OpenAI 推出了 ChatGPT 之後,整個 AI 又火熱了起來,大家看到了更多的應用和創意紛紛冒了出來,而微軟也在 Azure 上推出了 Azure OpenAI Service 讓我們可以建立自己的 OpenAI 服務,就在 OpenAI 開放 ChatGPT API 之後,微軟也終於在前陣子也正式公告把 ChatGPT 模型加入 Azure OpenAI Service 裡面,讓我們可以用這一個更強大的模型來建立相關的應用了,接下來會針對 Azure OpenAI Service 把研究和使用的心得陸續寫成系列文章,本文為導覽頁面,方便後續找尋文章。 

...繼續閱讀 »

Azure 成本管理 - 成本管理概觀

在使用雲端服務上,雖然服務的開關變的很容易,但是在收到帳單之後就得開始面對成本管理這一個議題,而這個議題可以包含許多的面向,未來將針對這些面向整理一系列的文章,本文先針對基本的成本管理作簡單的說明,以及做為所引用的頁面。

 

...繼續閱讀 »

透過 Kudu API 實做 App Service WebJob 管理平台

  • 349
  • 0

前言

因為需要讓使用者可以自行執行和察看 App Service 上的 WebJob 的狀態,但是又不希望還需要另外開 Azure Portal 權限給使用者,因此會需要可以透過程式來控制 WebJob,找了一下發現 Kudu 是有提供 API 的,因此就透過 API 實做出類似 Kudu 後台的 WebJob 管理介面,在這一個管理平台上可以同時管理多組 App Service 站台底下的 WebJob,後面就來說明該如何設定和使用這一個平台。

...繼續閱讀 »

讓程式碼更一致:使用 GitHub Copilot 自訂提示的技巧與設定

  • 153
  • 0

在使用生成式 AI 來提供程式碼建議的時候會希望產出的程式碼建議會符合自己或是團隊的 Code Style,或是可以在協助做 Code Review 的時候可以幫忙檢查出不符合 Code Style 的程式碼,最近 GitHib Copilot 更新了一個實驗性的功能,可以讓我們方便設定自定義的提示詞,讓 AI 在回覆的時候更符合我們的需求,後面就來說明該如何設定。

...繼續閱讀 »

Azure OpenAI Service 19 - Azure 上的 GPT-4 即時語音模型測試與應用教學

前幾個禮拜 ChatGPT 推出了 Advanced Voice Mode,讓我們可以透過更自然的對話方式來跟 ChatGPT 詢問問題,而後續也推出了對應的 Readtime Api ,可以讓我們透過程式來建置出屬於自己的 Realtime 的應用程式,而在 Azure 上面當然也提供了這個模型,一樣來測試看看吧。

...繼續閱讀 »

如何透過 GitHub Copilot 與 Azure AI Content Safety 確保程式碼授權合規性

  • 92
  • 0

現在生成式 AI 發展越來越快,也越來越多開發人員使用來產生程式碼的建議,但是對於企業來說除了考慮程式碼會不會被拿出去訓練之外的問題,就是要確保產生的程式碼是否有使用到公開的程式碼,有使用的話又是哪種授權,避免一不小心就產生的著作權的問題,本文就來介紹使用 GitHub Copilot 的時候該如何判斷,以及透過 Azure AI Content Safety 來判斷非 GitHub Copilot 產生的程式碼如何判斷是否有用到公開程式碼。

...繼續閱讀 »

Azure OpenAI Service 18 - 深入探索新版 Azure OpenAI Studio:輕鬆部署多模態模型與高效運用 GPT-4o 和 GPT-4o Mini 以及實作程式串接

OpenAI 陸續推出了 GPT4oGPT4o-mimi 這兩個新的多模態模型,所謂多模態模型指的是這個模型可以同時處理文字和圖片的需求,過去在 Azure 上面會需要使用 GPT-4 Turbo with Vision 這個模型,透過結合 Azure AI Vision 來辨識圖片,現在新的多模態模型就不需要再透過額外的 Azure AI Vision 就可以支援了,後面就來介紹透過新介面的 Azure OpenAI Studio 來部署和實做程式串接。

...繼續閱讀 »

Azure OpenAI Service 17 - OpenAI 官方 C# Library 實做簡介

前陣子 OpenAI 正式推出官方的 C# Library ,之前介紹微軟推出的 Azure OpenAI client library for .NET 也把版號進到 2.0.0 了,這時候就會有疑問是不是 OpenAI 要出來取代微軟之前推出的,試了一下發現並非如此,而是兩個 Library 是相輔相成的,後面就簡單來介紹跟說明如何使用吧。

...繼續閱讀 »

如何部署 gRPC 程式到 Windows App Service

  • 139
  • 0

gRPC 是由 Google 推出來的一個資料傳輸的框架,是架構在 HTTP/2 的基礎上,去年 Azure 上的 App Service 可以支援這架構的程式,但是僅限於 Linux 的 App Service,就在這幾天的微軟開發者大會 Build 上終於發佈 Windows 的 App Service 也可以支援了,於是就來實做看看,並且記錄一下要注意的事項。

...繼續閱讀 »

透過 Azure AI Bot Service 來建立整合通訊軟體的聊天機器人

  • 120
  • 0
  • 2024-05-25

過去寫了一堆 Azure OpenAI Service 的系列文章,我們已經可以透過程式來客制化出聊天機器人,但是還是需要自行開發網站 UI 或是單純整合到現有程式系統內,如果要更快速的做出聊天機器人或是要整合到企業內部常用的通訊軟體像是 Slack、Teams 等,甚至是 Line 的話,我們可以透過 Azure 上面的 Azure AI Bot Service (原名 Azure Bot Service) 來快速的整合這些通訊軟體,而且還可以做出更多豐富的聊天機器人的畫面內容。

...繼續閱讀 »

Azure OpenAI Service 13 - Azure OpenAI Assistants API 介紹和基本實做

OpenAI 在 2023 年 11 月推出了 GPTs,讓使用者可以客制化自己的聊天助理,透過自定義的提示詞來設定 ChatGPT 的用途和功能並且可以串接自己或是第三方的 API 來讓自定義的 GPTs 可以完成更多模型無法直接完成的功能,而在推出 GPTs 的時候也推出了 Assistants API 讓開發者也可以客制畫出自己的聊天助理,透過這個 API 也可以讓我們更快速的來建立聊天助理,而不需要另外處理過往的聊天記錄,在過去要客制化自己的聊天助理,需要另外準備 DB 或是其它方式來儲存過往的聊天歷史對話,現在透過 Assistants API 就可以記錄在 OpenAI 上,透過 API 就可以存取對話的歷史聊天記錄,在 2024 年 2 月微軟也把這個 API 新增到 Azure 上了,後面就來介紹這個 API 並且實做。

...繼續閱讀 »

Microsoft Copilot for Azure 初體驗

  • 275
  • 0
  • 2023-12-24

微軟近期逐漸把 AI 整合到各項產品,並且都掛上 Copilot 的名稱,當然不意外的在 Azure 上也是,就在前陣子也公布了 Microsoft Copilot for Azure 這項服務,但是也不意外的還在預覽階段,需要提出申請才可以使用,通過申請之後也稍微測試了一下,稍微整理一下體驗的心得,讓感興趣的朋友可以瞭解這產品究竟可以做到哪些事情。

...繼續閱讀 »