距離上篇在 Early Access Playground 試用 o1 模型後又過了兩週，今天終於等到 API 開放使用啦！本篇將紀錄如何使用 Python SDK 存取 o1 模型。 系列文章 【Azure OpenAI】快速試用 o1 模型 模型佈署 在先前開放的 Early Access Playground 中使用 o1 是不需要另外佈署模型的，不過回到使用 API 來存取 o1 模型，就需要像之前的模型一樣先進行佈署才能使用，相信大家都很熟悉了。 使用 Python SDK 一樣使用熟悉的 openai 套件： 2024-09-01-preview 初始化的方式與先前模型都一樣，需要注意的是 o1 模型目前只能使用最新的 API 版本 2024-09-01-preview 來訪問。 Chat Completions 將 model 填入 o1-preview ，或是你的模型佈署名稱， messages 也一樣是歷史對話堆疊的 List。 回應如下： 查看 Token 使用量 內建 Chain of Thought 的 o1 比起過往的模型會消耗較多的 Token，因此我們特別把 Token 使用量拉出來看。 回應如下： 其中 prompt_tokens 、 completion_tokens 、 total_tokens 在先前的 API 就已經存在了，分別代表Token 的 Input、Output 與總使用量，而在新的 completion_tokens_details 中可以看到 reasoning_tokens 使用了 320 個 Tokens，居然佔了總輸出 Token 的 80% 以上！ 控制 Token 成本 已往我們可以使用 max_tokens 參數來控制 Token 的用量，但在 o1 模型中棄用了 max_tokens ，取而代之的是使用 max_completion_tokens 參數，來看看這段程式碼： 回應如下： 沒東西？那再看一次 Token 量。 回應如下： Token 居然是有被使用的！ 這表示 max_completion_tokens 並不像過往使用 max_tokens 這麼簡單，先前在回應遇到...
近期公司剛好有個內部環境，需要開放給外部合作廠商連線的需求，Azure Bastion 剛好解決了這個問題。 Azure Bastion 是完全受控的 PaaS 服務，讓你在 Azure Portal 上只需要透過 TLS，就可以建立安全的 RDP/SSH 連線到被私人 IP 與 VNet 保護的後端 VM，因此 VM 可以完全不需要對外的公用 IP，藉此來避免 VM 直接對外公開 RDP/SSH 連接埠。 架構說明 簡化架構的單一 VNet，其中包含兩個 Subnet，分別佈署 Azure Bastion 與 Azure VM。 使用 VNet 中的私人 IP 連線到 Azure VM，VM 不需分配公用 IP。 本次 Demo 架構圖 另外這邊事前有先建立資源群組 charlie-test-bastion，本次 Demo 建立的資源都會放在同一個 資源群組，方便結束時直接整個刪掉。 建立 VNet 與 Azure Bastion 從 Portal 搜尋到「虛擬網路」後點擊「建立」，在第一個「基本」頁籤中，選擇稍早建立的資源群組，並給好名稱與地區。 虛擬網路 基本 進入「安全性」頁籤直接把「啟用 Azure Bastion」勾起來，這樣 VNet 建立時能順便把 Bastion 也帶起來，名稱可以使用預設的就好。 虛擬網路 安全性 進到下一個「IP 位址」頁籤會看到自動建立的子網 AzureBastionSubnet，就是用來放 Azure Bastion 的子網段，這個子網至少需要 /26 的大小且名稱必須固定為 AzureBastionSubnet；另外還有一個 VM 使用的子網 VMSubnet。 虛擬網路 IP 位址 完成後直接最後一頁建立即可，因為會附帶建立 Bastion 的關係，可能需要等待 10 分鐘左右。 建立 VM 接著建立要使用 Bastion 連線到的目標 VM，不過 VM 不是此篇主要要討論的題目，所以簡單說明幾個重點就好。 選擇 Windows VM，稍等測試連線會比較有感覺。 Windows VM Administrator 帳號密碼要牢記；公用輸入可以關閉，因為我們不需要從外網訪問 VM。 牢記 帳密並關閉公用埠 進到網路設定記得選到剛剛建立的 VMSubnet 子網，而「公用 IP」...