Azure OpenAI Service - Azure OpenAI Service 概觀

自從 OpenAI 推出了 ChatGPT 之後,整個 AI 又火熱了起來,大家看到了更多的應用和創意紛紛冒了出來,而微軟也在 Azure 上推出了 Azure OpenAI Service 讓我們可以建立自己的 OpenAI 服務,就在 OpenAI 開放 ChatGPT API 之後,微軟也終於在前陣子也正式公告把 ChatGPT 模型加入 Azure OpenAI Service 裡面,讓我們可以用這一個更強大的模型來建立相關的應用了,接下來會針對 Azure OpenAI Service 把研究和使用的心得陸續寫成系列文章,本文為導覽頁面,方便後續找尋文章。 

...繼續閱讀 »

Azure 成本管理 - 成本管理概觀

在使用雲端服務上,雖然服務的開關變的很容易,但是在收到帳單之後就得開始面對成本管理這一個議題,而這個議題可以包含許多的面向,未來將針對這些面向整理一系列的文章,本文先針對基本的成本管理作簡單的說明,以及做為所引用的頁面。

 

...繼續閱讀 »

透過 Kudu API 實做 App Service WebJob 管理平台

  • 309
  • 0

前言

因為需要讓使用者可以自行執行和察看 App Service 上的 WebJob 的狀態,但是又不希望還需要另外開 Azure Portal 權限給使用者,因此會需要可以透過程式來控制 WebJob,找了一下發現 Kudu 是有提供 API 的,因此就透過 API 實做出類似 Kudu 後台的 WebJob 管理介面,在這一個管理平台上可以同時管理多組 App Service 站台底下的 WebJob,後面就來說明該如何設定和使用這一個平台。

...繼續閱讀 »

如何部署 gRPC 程式到 Windows App Service

  • 51
  • 0

gRPC 是由 Google 推出來的一個資料傳輸的框架,是架構在 HTTP/2 的基礎上,去年 Azure 上的 App Service 可以支援這架構的程式,但是僅限於 Linux 的 App Service,就在這幾天的微軟開發者大會 Build 上終於發佈 Windows 的 App Service 也可以支援了,於是就來實做看看,並且記錄一下要注意的事項。

...繼續閱讀 »

透過 Azure AI Bot Service 來建立整合通訊軟體的聊天機器人

  • 58
  • 0
  • 2024-05-25

過去寫了一堆 Azure OpenAI Service 的系列文章,我們已經可以透過程式來客制化出聊天機器人,但是還是需要自行開發網站 UI 或是單純整合到現有程式系統內,如果要更快速的做出聊天機器人或是要整合到企業內部常用的通訊軟體像是 Slack、Teams 等,甚至是 Line 的話,我們可以透過 Azure 上面的 Azure AI Bot Service (原名 Azure Bot Service) 來快速的整合這些通訊軟體,而且還可以做出更多豐富的聊天機器人的畫面內容。

...繼續閱讀 »

Azure OpenAI Service 13 - Azure OpenAI Assistants API 介紹和基本實做

OpenAI 在 2023 年 11 月推出了 GPTs,讓使用者可以客制化自己的聊天助理,透過自定義的提示詞來設定 ChatGPT 的用途和功能並且可以串接自己或是第三方的 API 來讓自定義的 GPTs 可以完成更多模型無法直接完成的功能,而在推出 GPTs 的時候也推出了 Assistants API 讓開發者也可以客制畫出自己的聊天助理,透過這個 API 也可以讓我們更快速的來建立聊天助理,而不需要另外處理過往的聊天記錄,在過去要客制化自己的聊天助理,需要另外準備 DB 或是其它方式來儲存過往的聊天歷史對話,現在透過 Assistants API 就可以記錄在 OpenAI 上,透過 API 就可以存取對話的歷史聊天記錄,在 2024 年 2 月微軟也把這個 API 新增到 Azure 上了,後面就來介紹這個 API 並且實做。

...繼續閱讀 »

Microsoft Copilot for Azure 初體驗

  • 247
  • 0
  • 2023-12-24

微軟近期逐漸把 AI 整合到各項產品,並且都掛上 Copilot 的名稱,當然不意外的在 Azure 上也是,就在前陣子也公布了 Microsoft Copilot for Azure 這項服務,但是也不意外的還在預覽階段,需要提出申請才可以使用,通過申請之後也稍微測試了一下,稍微整理一下體驗的心得,讓感興趣的朋友可以瞭解這產品究竟可以做到哪些事情。

...繼續閱讀 »

Azure OpenAI Service 12 - GPT-4 Turbo with Vision 簡介及增強模式實做

OpenAI 在上個月 DevDay 上 公布了新的模型 GPT-4 Turbo with Vision,它可以讓 GPT4 模型可以認得圖片,可以讓 GPT-4 的應用場景又變的更多元了,而微軟也在本週也把此模型上到 Azure 上了,而且可以搭配 Azure AI Vision (Azure Computer Vision) 達成辨識影片的功能,後面就來介紹實際建置要注意的點和測試的結果。

...繼續閱讀 »

透過條件式存取設定 Windows 365 Cloud PC 限制 IP 存取

  • 122
  • 0

最近在評估和測試微軟推出的 Windows 365 Cloud PC,它可以快速的為企業建置雲端電腦,且也可以方便的管理,公司有授權的員工就可以在何時何地連上去處理工作,對於會需要再外面跑業務或是 WFH 的員工只需要有電腦就可以連上去,這時候要特別注意的當然就是安全性,必須適當的限制,不然何時何地跟不限機器都可以連上也等於開很大一個洞在那邊等人家連,這時候就可以透過條件式存取來設定,而本文要介紹的就是針對 IP 來限制存取,只有指定的 IP 才可以連的上。

...繼續閱讀 »

Azure OpenAI Service 10 - 使用 BetterChatGPT 在 Azure 部署私有的 ChatGPT 站台

OpenAI 有提供獨立的 ChatGPT 服務,那如果我們想要使用 Azure OpenAI Service ,又想要有類似 ChatGPT 一樣的站台,這時候就可以用 BetterChatGPT 這一個開源的 UI來架設自己的 ChatGPT 站台,並且使用自己的 ChatGPT 模型來執行,雖然也是可以直接用已架設好的服務直接使用,但是透過 App Service 架設自己的站台,還可以加上一些驗證或是防火牆設定等,才可以達到我們要的私有站台,後面就來說明如何建構自己的私有站台囉!

...繼續閱讀 »