黯雲端記事錄

因為現在模型疊代速度很快，會一直有新模型或是新版本，因此就會開始有管理上的問題，我們會需要確保模型的淘汰時間跟部署狀態，雖然可以從 Azure AI Foundry 看到部署的模型跟淘汰的時間，但是我們建立的 Account 很多的時候就會變的麻煩了，此時我們可以透過 Api 來處理跟匯總這些資料，本文就來實做檢查所有部署的模型資料跟淘汰時間。

微軟將 Azure AI Studio 以及 Azure Open AI 和其他 Azure AI 的服務整合之後推出了 Azure AI Foundry 這一個服務平台，讓我們在使用 Azure AI 服務的時候有同一個入口來管理和使用 Azure AI 的服務，而我們也可以在上面部署各式各樣的 LLM 模型，包含 Azure OpanAI 都可以在這邊部署並提供一個遊樂場讓我們可以免寫程式來測試部署好的 LLM 模型，後面就來介紹如何部署以及測試，最後也實做程式要來串接部署好的模型。