花費有歸屬
找出用量來源,搭配預算、限制與模型選擇管理支出。
當公司開始使用多種模型、程式開發代理與企業工具,Unity Gateway 提供共同的治理入口:誰能用、花多少、能做什麼、出了什麼問題。
找出用量來源,搭配預算、限制與模型選擇管理支出。
在共同治理入口下,使用託管模型或串接外部供應商。
把權限、防護、工具控制與紀錄帶進 AI 的執行過程。
我們是否已經有多個團隊各自接模型、各自保管金鑰,卻難以統一回答「誰用了多少、能存取哪些資料」?如果有,Gateway 的管理價值就很具體。這是本指南依功能提出的評估角度,並非已替你的公司做出採購結論。
AI 模型負責產生推論結果;代理把模型、指令與工具組合成工作流程。Unity Gateway 位於這些互動的治理路徑上,Unity Catalog 則提供資產與權限基礎。
| 元件 | 主要責任 | 公司裡的直覺例子 |
|---|---|---|
| 模型 / Model | 理解輸入並產生文字、程式或其他結果。 | 負責撰寫客服回覆草稿的能力。 |
| 代理 / Agent | 依任務呼叫模型與工具,執行多個步驟。 | 查訂單、讀退貨規則,再產生回覆的流程。 |
| MCP / 工具 | 讓代理能查資料、使用 API 或操作外部系統。 | 查詢知識庫、GitHub 或公司系統。 |
| Unity Catalog | 登錄資產、管理擁有者與存取權。 | 定義哪些團隊可執行某個模型或工具。 |
| Unity Gateway | 治理經過它的 AI 呼叫、成本、路由與互動。 | 在模型或工具被使用時套用統一規則。 |
| Model Serving | 部署並提供模型推論服務。 | 真正承接推論運算與容量需求。 |
| MLflow / Lakewatch | 分別支援 AI 品質追蹤評估,以及安全分析。 | 開發團隊除錯與資安團隊調查。 |
可由外部應用或 coding agent 呼叫模型服務;MCP 呼叫也可透過 Gateway。
檢查 Unity Catalog 授權;依已啟用的設定評估預算、速率與服務政策。
模型服務路由到實際模型;MCP 服務管理工具選擇與對外連線。工具所用身分取決於連線設定。
可在回傳前檢查內容,並依設定留下用量、追蹤與稽核資料。這是概念順序,實際執行細節依服務類型而異。
若員工或程式仍直接用個人金鑰連到外部模型,這些呼叫不會因公司啟用了 Gateway 就自動受管。導入需同步處理客戶端設定、憑證、網路路徑與使用規範。
涵蓋產品頁的六項主要功能與八項 More features。每項都附用途、企業情境及文件限制;「文件已說明」表示有操作文件,不代表對所有區域或帳戶都無條件開放。
把 AI 帳單拆到服務、模型與使用者。Databricks 模型的費用依帳務資料歸屬;外部模型依 token 與公開單價估算,並按小時彙整。服務標籤可連結團隊或成本中心。
導入前看這裡:外部估算不等於供應商帳單;Custom provider 目前不支援外部費用追蹤。
可設定共用或每人每月門檻,選擇寄出警示或封鎖後續用量;也可替特定人員與群組設例外額度。
導入前看這裡:封鎖採近即時估算,不中斷執行中請求,也不是最終帳單的絕對上限。預算不涵蓋 provisioned throughput 或繞過 Gateway 的獨立 Serving 流量。外部模型納入預算為 Beta,須另行啟用;預算比對使用服務標籤,不使用請求標籤。
依程式開發任務挑選具備所需能力、成本較低的候選模型。透過 Unity Gateway CLI 使用;若要跨不同代理執行框架選擇,需使用 Omnigent。
導入前看這裡:目前僅選 system.ai 模型服務,使用者須有所有候選模型權限。CLI 要以命令列提供任務,互動式根工作階段不適用;跨框架需 Omnigent v0.8.0 以上。
Model Serving 負責實際提供模型推論。可使用 Databricks 託管基礎模型的按 token 付費方式,或為需要預配置容量的工作負載使用 provisioned throughput;也能接外部供應商。
導入前看這裡:Gateway 的流量管理與底層推論容量是不同層次。增加備援不能代替容量規劃;模型與區域可用性需逐一確認。
把 AI 服務放進 Unity Catalog,集中查看名稱、擁有者、說明與權限。模型服務可跨共用 metastore 的工作區治理;Agent Services 提供代理登錄與權限管理。
導入前看這裡:Agent Services 為 Beta。文件限制章節明列:目前不支援透過登錄服務執行代理,也不支援其 service policies、rate limits 或 SQL DDL。
以 Unity Catalog 權限決定誰能呼叫服務,再以內容政策檢查每次互動。模型 API、供應商連線與 MCP 服務可各自管理授權。
導入前看這裡:系統提供的 model services 預設可供帳戶使用者執行,導入時須主動檢查並收斂權限。政策能力的 Beta 狀態見下項。
依呼叫者、輸入、輸出與工具資訊,讓互動繼續(ALLOW)、拒絕(DENY)或等待人員同意(ASK)。可在服務呼叫前及回應後套用內建或自訂規則。
導入前看這裡:政策不取代基本存取權。DENY 可能以 HTTP 200 搭配結構化封鎖資訊回傳,整合端不能只靠 HTTP 狀態判斷是否放行。
官方範例涵蓋個資偵測與遮蔽、越獄與提示注入攔截、不安全內容,以及自訂品牌規則。可針對輸入或輸出選擇處理動作。
導入前看這裡:實作服務層防護可參照 Service Policies。偵測效果與延遲仍需用公司的繁體中文、混合語言與領域資料驗證;不是零誤判的保證。
模型服務可限制每分鐘請求數(QPM)與 token 數(TPM);MCP 服務限制 QPM。可設定整體服務、預設每人及特定使用者或群組規則。
導入前看這裡:預設不設限。超限回傳 HTTP 429,客戶端須採退避重試;短時間突發可能略超門檻,因此不能視為精確的即時配額鎖。
按比例分流到多個模型後端,適合逐步上線或 A/B 測試。主目的地失敗時,依指定順序嘗試備援;具工作階段識別資訊時可維持同一目的地。
導入前看這裡:分流最多五個目的地。分流按權重選擇,和依任務能力挑模型的 Smart Routing 是不同機制。備援模型的工具、輸出格式及品質須先相容。
用量表回答誰用了多少、耗時多久;inference tables 保存單一端點的請求與回應。統一追蹤表可由 metastore 管理者一次配置,集中模型與 MCP 活動,使用 OpenTelemetry 格式。
導入前看這裡:統一追蹤交付為 best-effort,不能取代正式稽核紀錄。跨步驟共用 trace ID 的完整串聯仍列為即將提供;閱讀權限須另外授予。
用 system.access.audit 查詢服務存取軌跡,再依官方事件參考確認有哪些操作會記錄。提示詞與回應內容的調查需搭配追蹤或 inference tables。
導入前看這裡:不要假設每個稽核事件都包含完整提示詞或回應。紀錄可能有敏感內容,存取、保存期限與匯出流程都需管理。
MLflow 3 串連應用追蹤、自訂或內建評分、人員回饋與版本比較。它協助開發團隊理解模型之外的檢索、工具及代理步驟如何影響品質。
導入前看這裡:Gateway 提供治理與流量資訊;MLflow 的應用儀表化與評估資料仍需依工作流程設置。
官網將 Lakewatch 連結為安全監控方案。它是 Databricks 的 SIEM,可彙整安全、IT 與業務資料,支援威脅搜尋、偵測與事件調查。
導入前看這裡:Lakewatch 是相關產品;其可用性、部署與費用須另外評估,不能假設已包含在每個 Gateway 設定中。
官方整合涵蓋 Claude Code、Codex CLI、Cursor 與 Gemini CLI 等工具。Unity Gateway CLI(ug)協助驗證身分、設定代理與導向服務;用量儀表板可觀察不同工具使用狀況。
需有支援區域的工作區與 Unity Catalog。這是模型與工具整合,並不等於自動接管所有既有桌面訂閱。
可使用內建 MCP Services 或登錄外部 MCP。以服務權限、工具選擇與政策管控呼叫。Databricks 管理連線憑證與 OAuth 流程。
共用服務帳號與每人 OAuth 的權限效果不同。要維持外部系統的個人存取範圍,必須確認使用者身分傳遞與每人授權。
可組合或替換代理框架、共享工作階段,並搭配 Databricks 模型存取與沙箱。它是官網「建立與執行代理」情境的相關方案,需另外啟用預覽;使用 Databricks Sandbox 還有額外區域與功能條件。
以下是依官方能力推導的導入情境,不是客戶實績或成效承諾。選擇最接近你們現況的一項,先做可衡量的小規模驗證。
現況:每位工程師使用不同工具與模型,支出與權限很難統一。
做法:將支援工具導向 Gateway,以服務與身分歸屬用量,設定預算;有需要再試 Smart Routing。
試點衡量:每項完成任務成本、交付時間、程式審查退回率。
現況:每個團隊重複串 API、保管金鑰、實作備援。
做法:由平台團隊建立 model services 與 provider services,讓應用使用已核准的服務入口。
試點衡量:新應用接入工時、備援成功率、P95 延遲、單次成功請求成本。
現況:客服資料可能含個資,模型回覆偶爾不符合公司規範。
做法:接上適當的輸入與輸出防護,再用 MLflow 評估回覆與人工修正情況。
試點衡量:任務正確率、敏感資訊漏檢率、誤攔率、人工修改時間。
現況:代理能查內部資料,也可能嘗試不必要的寫入或高風險操作。
做法:以 MCP 服務限制可見工具,確認每人 OAuth 或服務帳號,對特定操作套用服務政策。
試點衡量:未授權操作攔截結果、正常任務成功率、授權流程摩擦。
現況:只有總帳單,無法判斷哪個專案值得繼續投入。
做法:設計服務標籤與成本中心映射,拆解費用;把成功完成的業務任務當分母比較。
試點衡量:可歸屬支出比例、每成功案件成本、異常支出發現時間。
現況:發生失敗或可疑工具活動時,紀錄散在不同系統。
做法:用稽核與追蹤找到呼叫者和服務,再按需求整合安全分析流程。
試點衡量:調查耗時、紀錄完整度、敏感紀錄權限覆核結果。
若模型單價降低,卻讓錯誤與重試增加,整體成本可能更高。建議同時比較「每個成功任務的總成本」、品質、延遲,以及平台管理工時;這是本指南的評估建議。
| 你們的現況 | 初步評估方向 |
|---|---|
| 已使用 Databricks / Unity Catalog,且多團隊採用 AI | 治理與身分基礎較容易銜接,適合挑一個共用服務試點。 |
| 尚未使用 Databricks,但模型與代理已相當分散 | 管理問題可能成立;需把新平台導入、人員與整合費用一併比較。 |
| 僅有單一、低流量的簡單模型應用 | 先確認是否真的需要跨團隊治理,避免治理維運成本高於現有問題。 |
| 需要全離線、指定地區或禁止任何預覽功能 | 先核對部署模式、資料路徑與必要功能狀態,再談架構。 |
以上為架構評估推論。未提供公司產業、雲端環境、AI 用量與預算,因此本指南不預設 ROI 或建議立即採購。
以下是建議的試點順序,並非官方保證的時程。以一個開發團隊、一個模型服務與一個低風險工具為起點。
列出工具、模型供應商、金鑰擁有者、資料類型、每月用量與目前痛點。先收集任務品質、成本及延遲基準。
核對雲端與區域、Unity Catalog、管理者角色,以及必要的 Beta 開關。檢查現有 system.ai 預設權限;確認紀錄存放位置與閱讀權限。
使用既有託管 model service,或設定 BYOK provider service。把測試應用或 coding agent 導向 Gateway,確認身分與用量可查。
設定標籤、速率、預算通知與封鎖。用無敏感資料的測試案例驗證防護;MCP 工具從最小權限開始。
測試無權限帳號、超量請求、模型異常與政策封鎖。確認應用能理解錯誤、停止無效重試,且正常流程仍能完成。
回看成功任務成本、品質、延遲、管理工時與調查能力。通過事先約定的標準後,再擴到更多團隊與模型。
| 角色 | 應確認的事情 |
|---|---|
| 平台 / 資料工程 | Gateway 路徑、Unity Catalog、模型服務、憑證與網路。 |
| 應用 / AI 工程 | SDK 或客戶端相容性、重試、備援與品質評估。 |
| 資安 / 資料治理 | 身分傳遞、工具權限、敏感內容、追蹤保存與調閱。 |
| FinOps / 部門負責人 | 標籤與成本歸屬、預算門檻、費用對帳與效益指標。 |
| 成本項目 | 應取得的資料 |
|---|---|
| 模型推論 | 模型、輸入與輸出 token、快取、按量或預配置容量;外部供應商需對照其帳單。 |
| Gateway 與觀測功能 | 依實際啟用功能核對價格。官方定價頁註明 inference tables 與 usage tracking 以 1KB payload 級距計費。 |
| 資料與相關服務 | 紀錄保存、查詢與評估運算,以及是否採用 Model Serving、Omnigent、Lakewatch 等服務。 |
| 導入與維運 | 客戶端改接、權限維護、政策測試、事件處理與人員工時。 |
後兩項為成本盤點建議。此輪官方定價頁的動態單價表未完整呈現,因此不填入未核實的金額;請依雲端、區域與合約取得正式報價。各產品的費用也不應全部都按秒或全部都按 token 計算。
官方操作文件明確說明,門檻採近即時估算,正在處理的請求不會被中斷。對外部模型,供應商帳單才是實際收費依據。部落格的「hard cap」描述應搭配這些限制閱讀。
以下狀態依所列 AWS 文件,核對於 2026-09-11;Azure / GCP 及不同工作區需再確認。
| 項目 | 核對結果 | 對導入的意義 |
|---|---|---|
| Unity Gateway 整體 | 正式提供(GA) | 個別擴充功能仍可能需要另外啟用。 |
| Smart Routing | Beta | 候選模型、客戶端模式與跨框架條件見功能詳解。 |
| Service Policies / LLM Guardrails | Beta | 需管理者開啟;先驗證正常與異常案例。 |
| Unified Trace Table | Beta | 交付 best-effort;完整多步追蹤串聯仍有限制。 |
| Agent Services | Beta | 目前可登錄與管權限,不能透過登錄服務執行代理。 |
| 外部模型費用納入預算 | Beta | 另行啟用並勾選;採估算金額。 |
| Omnigent on Databricks | Beta / 相關產品 | 工作區預覽、Sandbox 與區域有各自條件。 |
它主要是企業 AI 的治理與使用管理層。應用或代理仍使用底層模型與工具完成工作;Gateway 協助管理這些互動。
不一定。BYOK provider services 可連到公司原本使用的外部供應商,並由 Unity Catalog 管理加密憑證。供應商支援、驗證方式與資料傳輸路徑仍須確認。
Smart Routing 依開發任務挑候選模型;流量分配依設定百分比選後端。備援則處理初次呼叫失敗後的重試順序。三者解決的問題不同。
要看驗證設定。每人 OAuth 可代表各自的身分;共用 principal 則用共同憑證。不能只因 MCP 經過 Gateway,就推論外部系統必然採每人權限。
不能直接做這個結論。官方 coding agent 整合描述的是模型與工具流量接入;既有產品的介面、授權與訂閱是否可替代,需要逐項比對。
不會。服務政策與防護能實施控制;答案品質還需要任務評估、人員回饋與持續監控。建議在自己的語言與資料情境量測誤判、漏檢與品質。
這是依 Databricks 官方產品頁、文件與部落格製作的獨立導讀,以重新整理的繁體中文說明呈現。遇到版本、可用性或操作細節差異時,請回到所附官方來源;企業情境與試點指標則是本指南的分析建議。
本指南收錄 27 個官方來源入口:產品主頁的主要功能介紹,加上治理、整合、定價與導入文件。內容核對日為 2026-09-11,文件日期為頁面標示的更新日期。
範圍:技術細節主要依 Databricks on AWS 英文文件。未將第三方評論當成產品事實;沒有把付費電子書或登入後內容視為已讀。官網部分舊連結仍帶有 ai-gateway 或 beta 字樣,本頁使用核對後的文件位置。