距離上篇在 Early Access Playground 試用 o1 模型後又過了兩週，今天終於等到 API 開放使用啦！本篇將紀錄如何使用 Python SDK 存取 o1 模型。 系列文章 【Azure OpenAI】快速試用 o1 模型 模型佈署 在先前開放的 Early Access Playground 中使用 o1 是不需要另外佈署模型的，不過回到使用 API 來存取 o1 模型，就需要像之前的模型一樣先進行佈署才能使用，相信大家都很熟悉了。 使用 Python SDK 一樣使用熟悉的 openai 套件： 2024-09-01-preview 初始化的方式與先前模型都一樣，需要注意的是 o1 模型目前只能使用最新的 API 版本 2024-09-01-preview 來訪問。 Chat Completions 將 model 填入 o1-preview ，或是你的模型佈署名稱， messages 也一樣是歷史對話堆疊的 List。 回應如下： 查看 Token 使用量 內建 Chain of Thought 的 o1 比起過往的模型會消耗較多的 Token，因此我們特別把 Token 使用量拉出來看。 回應如下： 其中 prompt_tokens 、 completion_tokens 、 total_tokens 在先前的 API 就已經存在了，分別代表Token 的 Input、Output 與總使用量，而在新的 completion_tokens_details 中可以看到 reasoning_tokens 使用了 320 個 Tokens，居然佔了總輸出 Token 的 80% 以上！ 控制 Token 成本 已往我們可以使用 max_tokens 參數來控制 Token 的用量，但在 o1 模型中棄用了 max_tokens ，取而代之的是使用 max_completion_tokens 參數，來看看這段程式碼： 回應如下： 沒東西？那再看一次 Token 量。 回應如下： Token 居然是有被使用的！ 這表示 max_completion_tokens 並不像過往使用 max_tokens 這麼簡單，先前在回應遇到...
接續前一篇，我們會開始真正執行模型訓練，還沒看過上一篇的朋友建議從以下連結開始觀看。
相關連結：【Azure AI Vision】在 Vision Studio 上訓練自己的影像分類模型（上）
建立模型訓練
再來終於可以開始訓練我們的客製化模型了，進到 Vision Studio 左側的「Custom models」，點擊「Train a new model」。
 |
| Train a new model |
第一步是先給模型一個名稱與型態，這邊記得選到影像分類的模型。
 |
| 影像分類模型 |
第二步也很簡單，選到我們前一篇建立好的 COCO 標註檔。
 |
| 選擇標註檔 |
再來第三步可以選擇驗證使用的資料集，不過這步沒有強制需要，我們就先跳過直接進入第四步。
第四步就是最重要的一步了，需要設定模型的訓練時間，會說重要的原因就是因為訓練的時間長短會直接影響到費用，所以如果不希望下個月帳單破表的話就盡量先選最短的訓練時間了，不過最小也至少要設定一小時。
 |
| 設定模型的訓練時間 |
再來就等待一小時的訓練時間囉！
完成訓練
模型訓練完成後會看到如下圖的畫面，第一可以先看到訓練時間其實短於設定的一小時，這是因為我們使用的訓練資料集只有 10 張，在訓練過程中如果判斷沒有繼續的必要，訓練就會提早結束，當然訓練費用也會隨之減少。
第二點關於下方的分數，因為在建立訓練時我們沒有選擇驗證使用的資料集，這時就會使用訓練資料集來對模型評分，球員兼裁判的情況下，這個分數就當作參考就好。
 |
| 模型訓練完成 |
測試模型
最後就是試用看看我們訓練出來的模型了，點擊上方的 Try it out，就能進入測試畫面。
這時模型的下拉選單就能看到訓練完成的模型名稱，使用我們先前分開的驗證圖片來做測試，訓練的成果非常成功，以我的案例 4 張不在訓練集內的圖片都能精準的猜中，大家可以自己多試玩幾次。
 |
| 模型訓練成功 |
總結
最終我們使用自己準備的資料訓練了一個客製化的影像分類模型，過程中還額外建立了 Azure ML 來做出影像標註檔，但仔細回想一下我們其實一行程式碼都沒寫到，而最棒的一點是我們甚至不用有具備任何影像訓練或深度學習的經驗，就能快速完成模型訓練。
除了大幅度地降低模型訓練的門檻，Computer Vision 在模型訓練完成後還直接附贈 Inference API，過往在辛苦訓練出一個達標的模型後，下一步還需要再另外找主機將模型佈署起來，甚至再加工一層 API 或 APP 模型才能被取用，這在後續不論系統串接或模型維護上都大大降低了各種成本。
最後回到模型本身，先不論本篇中的測試案例，其實在我目前接觸到的公司內部專案中，確實使用了小量的標註資料，就達到了超出預期的訓練成果，這也迫使我們開始將一些專案轉往 Computer Vision 以追求更好的結果。
使用 Computer Vision 訓練自己的影像分類模型，推薦給大家！
留言
張貼留言