Azure OpenAI 是什麼？企業級資安、計費與導入方案介紹

宏庭科技為您提供 Azure OpenAI 企業導入介紹，包括但不限於服務定義、核心資安優勢、產品比較、計費方式與導入步驟，幫助您在符合企業治理與資安規範的前提下，安全地使用 OpenAI 的生成式 AI 模型。我們每月更新內容，為您整理 Microsoft Azure 最完整的實務資源。

Azure OpenAI 是什麼 ？

Azure OpenAI 是透過 Microsoft Azure 提供 OpenAI 模型服務，讓企業可以在自有的 Azure 環境中，透過 API 或 SDK 呼叫 OpenAI 的生成式 AI 模型，包含 GPT 系列文字模型、推理模型、影像生成與文字轉向量（embedding）等能力。

與直接使用 OpenAI 官方服務最大的不同在於部署位置與治理主體。當您透過此服務呼叫模型時，模型運作在您所選擇的 Azure 區域內，存取控制、網路隔離、資料保存政策與稽核紀錄，全部納入您既有的 Azure 治理架構中管理，而不是交由第三方平台處理。

換句話說，它把「OpenAI 的模型能力」與「Microsoft 的企業雲端治理」結合在同一個環境。對需要符合內部資安政策、產業法規或客戶稽核要求的企業而言，這個差異往往是能否將生成式 AI 正式導入正式環境的關鍵。

延伸閱讀：Azure 雲端解決方案完整服務、Azure OpenAI 服務概觀（Microsoft Learn）

Azure OpenAI 的核心優勢：具備企業級資安治理

對企業來說，AI 能不能回答問題只是起點。更重要的是，AI 能不能安全讀取內部資料，例如「公司資料會不會被拿去訓練模型」「資料會不會離開合規區域」「能不能稽核誰用了什麼」等，甚至是否能依照部門權限回應、串接 ERP、CRM 或客服系統，並讓 IT 與資安團隊能長期管理，下列宏庭為您詳細說明，方便您評估是否選擇導入 Azure OpenAI：

1. 資料不會用於訓練公開模型

透過此Azure OpenAI 企業級服務提交的 prompt、輸出內容、嵌入向量與微調資料，不會被用來訓練 OpenAI 或 Microsoft 的公開基礎模型，也不會提供給其他客戶使用。資料的所有權與控制權留在企業手上。

2. 資料留在您指定的合規區域

您可以選擇模型部署的 Azure 區域，讓資料處理與保存符合資料落地（data residency）要求。對於受個資法、金融或醫療法規約束的企業，這是評估時的硬性條件。

3. 整合既有的身分與網路安全機制

此服務直接沿用 Azure 既有的安全機制：以 Microsoft Entra ID 進行身分驗證與角色權限（RBAC）控管、透過虛擬網路與私人端點限制存取來源、以 Azure Key Vault 管理金鑰，並將所有呼叫納入 Azure Monitor 與稽核紀錄。企業不需要為了導入 AI 而另外建立一套權限與稽核制度。

4. 內建負責任 AI 的內容過濾

此服務內建內容篩選機制，會針對仇恨、暴力、自我傷害、性內容等類別，對輸入與輸出進行偵測與分級，並可依需求調整或申請修改篩選層級，協助企業降低生成內容的法遵與品牌風險。

企業使用 Azure OpenAI 最在意的資安問題

企業導入 AI，最大的疑問通常是內部資料會不會外流。尤其是合約、報價、財務、人事、客戶名單與技術文件，一旦進入 AI 應用，就不能只用方便性來做評估，必須納入資安治理。

Azure OpenAI 的價值，在於能放進企業既有 Azure 管理架構，進一步規劃使用者身分驗證、部門權限、網路隔離、資料加密與操作紀錄。真正的風險常發生在資料來源混亂、權限分級不清、員工上傳敏感文件，或系統串接範圍過大。

微軟提供的資安防護盾：Prompt Shields可降低注入風險

Prompt Shields 是企業導入 AI 時值得關注的防護機制，主要用來降低惡意提示攻擊與 Prompt 注入風險。當 AI 會讀取內部資料、外部網頁或使用者上傳內容時，就需要規劃這類防護。

Prompt 注入攻擊可能誘導 AI 忽略原本規則、繞過限制，甚至嘗試取得不該公開的資料。但 Prompt Shields 不能成為唯一防線，企業仍需搭配資料分級、權限控管、輸入檢查、回應限制、異常監控與人工審核。

產品比較：Azure OpenAI、OpenAI、ChatGPT 企業版

很多企業在評估時會把三個名稱搞混：Azure OpenAI、OpenAI（官方 API，即 OpenAI API）、以及 ChatGPT 企業版（ChatGPT Enterprise）。三者背後雖然都使用 OpenAI 的模型，但使用方式、適合對象等方面則完全不同，在評估方面，您可以參考下列的比較表：

比較項目	Azure OpenAI	OpenAI（OpenAI API）	ChatGPT 企業版
產品型態	雲端平台服務，以 API／SDK 整合進企業系統	OpenAI 官方提供的 API 服務	現成的對話式 SaaS 應用
治理主體	企業自有的 Azure 環境，納入既有治理	OpenAI 平台	OpenAI 平台
身分與權限	Microsoft Entra ID＋RBAC，整合企業帳號	以 API 金鑰管理	以管理後台管理成員
資料落地	可指定 Azure 區域	依 OpenAI 政策	依 OpenAI 政策
稽核與監控	整合 Azure Monitor 與稽核紀錄	需自行建置	提供企業層級管理介面
主要使用方式	開發團隊嵌入自家應用與流程	開發者快速串接、原型開發	員工直接使用對話介面
計費模式	依 token 用量／可選 PTU 預留產能	依 token 用量計費	依使用者席次訂閱
適合對象	需符合資安治理的企業正式應用	重視彈性、快速試做的開發者	需要現成 AI 工具的一般員工

選擇參考依據：如果您要的是「員工開箱即用的對話工具」，ChatGPT 企業版最直接；如果您是開發者，想快速串接、做原型，OpenAI API 最有彈性；但如果您要把生成式 AI 正式導入企業系統，又必須符合資安、合規與稽核要求，在 Azure 上使用 OpenAI 模型是把模型能力與企業治理結合得最完整的選擇。

Azure OpenAI 的使用場景有哪些呢？

• 員工辦公：適合使用 ChatGPT 企業版，優勢是快速上手，適合文件摘要、會議整理、內容草稿與日常資料整理。
• 客製應用：適合使用 Azure OpenAI，優勢是架構可控，適合串接內部資料、建立 RAG 知識庫、設計權限與資安治理。
• 功能開發：適合使用 OpenAI API，優勢是串接彈性高，適合已有工程能力的團隊快速開發 AI 功能。

延伸閱讀：Azure 雲端解決方案完整服務

Azure OpenAI 如何計費

評估費用時，建議先把成本分成兩類：一是「模型使用費」，由 Microsoft 原廠依模型與用量計費；二是「解決方案的建置與維運成本」，也就是讓 AI 應用實際上線運作所需的周邊資源與人力。許多企業只看到前者，導入後才發現後者也是預算的一部分，因此事先區分有助於做出合理的成本試算。

一、模型使用費（Microsoft 原廠計費）

此部分採「用多少付多少」的雲端計費邏輯，主要由您使用的模型與用量決定，而非固定月費。

1. 依 Token 用量計費（隨選付費，Pay-as-you-go）

文字類模型以 token 為計價單位，輸入與輸出分開計算，不同模型的單價也不同。能力較強的模型單價較高，輕量模型較便宜。這種方式適合用量浮動或起步試做的階段，用多少算多少。

2. 預留產能單位 PTU（Provisioned Throughput Unit）

PTU 是預先保留固定處理產能的計費方式，換取穩定的延遲表現與可預測的成本。它較適合流量穩定、用量可預測，且對效能（如延遲）有明確要求的場景，而非「上線就該採用」的選項。實務上，許多正式環境仍會採用隨選付費（Pay-as-you-go），兩者的差別在於流量穩定度與效能需求，而不是測試環境與正式環境之分。建議依實際流量型態評估，再決定採用哪一種，或兩者搭配使用。

3. 其他原廠計價項目

• 影像生成模型：依產生的影像數量與解析度計費。
• 嵌入向量（Embeddings）：依處理的 token 數計費，是 RAG 知識庫文件向量化的基礎計價項目。
• 模型微調（Fine-tuning）：依訓練 token 與佈建時數計費。

實際單價會因模型版本與區域而異，且 Microsoft 會不定期調整。建議以官方定價頁與實際情境試算，避免僅看單一數字做決策。

二、解決方案的建置與維運成本

除了原廠模型費，讓 AI 應用實際落地、長期穩定運作，還會涉及下列成本類別。這些金額會因專案範圍而異，建議在規劃階段一併納入評估：

• 架構設計與環境建置：包含網路與資安配置、概念驗證（PoC）與部署所需的規劃與人力。
• RAG 知識庫的向量化成本：RAG 的成本不只有檢索／搜尋服務。初次建立知識庫時，所有文件都需經過 Embedding 向量化；當文件新增或更新時，也需要重新向量化處理，這些都是實際導入時需要考量的持續性成本。
• 周邊資源：如向量資料庫、儲存空間與檢索服務等支撐 AI 應用運作的雲端資源。
• 持續維運與優化：上線後的監控、成本控管、稽核與調校。

換言之，原廠模型費只是總持有成本的一部分；完整預算應把建置與維運一併估算，才能避免低估導入成本。宏庭科技可協助依您的實際情境進行整體成本試算。

會不定期調整。導入前建議以官方定價頁與實際情境試算，避免僅看單一數字做決策。

延伸閱讀：Azure OpenAI 服務與定價（Microsoft）

如何導入 Azure OpenAI？

導入流程可分為下列幾個階段。對沒有專責雲端團隊的企業而言，導入的難點通常不在開通帳號，而在於架構設計、資安配置與後續維運。

1. 申請與開通：建立 Azure 訂用帳戶，並完成服務的存取申請。
2. 規劃資源與權限：設定資源群組、區域、Microsoft Entra ID 角色權限與網路隔離。
3. 部署模型：依需求選擇並部署模型，設定內容篩選層級。
4. 整合與測試：將 API 整合進企業應用，若需企業內部知識問答，可搭配 RAG 架構建立知識庫。
5. 上線與維運：建立監控、成本控管與稽核機制，持續優化。

導入 Azure OpenAI，交給宏庭科技為您搞定

宏庭科技是 Microsoft 雲端合作夥伴，母公司為遠東集團旗下的博弘雲端，累積服務超過 2,000 家企業客戶、擁有 1,000 張以上原廠認證，並通過 ISO 27001 資訊安全管理驗證。在企業導入這項服務與整體雲端落地上，我們提供下列具體協助：

• 完整雲端維運服務：從環境評估、工作負載評估、雲端架構設計、概念驗證（PoC）、實際環境部署到雲端代管，提供端到端服務。
• 您始終保有最高管理權：即使透過代理商開通訂閱，您在 Microsoft Entra ID 中仍保有 Global Administrator 與 Owner 角色，帳號與資料的最高控制權始終在您手上，避免被技術性鎖死。
• 零停機退場機制：合約終止時，帳號與資料可完整、零停機轉回原廠或其他代理商，雲端架構與設定維持不變，只切換後台出帳主體。
• 台灣在地開票：提供台灣在地公司發票（含 5% 營業稅），並整合電子發票，符合企業報帳與稅務合規需求。
• 持續監控與優化：提供定期報表與問題洞察，並依業務需求即時調整雲端環境，協助創造更多商業價值。

馬上聯絡專屬顧問，宏庭科技為您搞定 Azure 雲端大小事。

常見問題 FAQ