花費有歸屬
找出用量來源,搭配預算、限制與模型選擇管理支出。
當公司開始使用多種模型、程式開發代理與企業工具,Unity Gateway 提供共同的治理入口:誰能用、花多少、能做什麼、出了什麼問題。
找出用量來源,搭配預算、限制與模型選擇管理支出。
在共同治理入口下,使用託管模型或串接外部供應商。
把權限、防護、工具控制與紀錄帶進 AI 的執行過程。
Databricks 是雲端資料與 AI 平台,讓團隊整理資料、做分析、建立及執行 AI 應用。它的 Lakehouse(湖倉一體)把資料湖的彈性與資料倉儲的分析能力結合,供不同團隊共用資料。Unity Catalog 管資產與權限,Unity Gateway 管經過它的 AI 互動。
建議先讀第 02 節的架構與產品關係,再讀第 04 節的官方使用案例;第 03 節的功能可按需要展開。
工作區(Workspace)是團隊使用平台的環境;一個帳戶可包含多個工作區;啟用 Unity Catalog 後,可集中管理使用者與資料存取,帳務則在帳戶層級處理。你通常從工作區的 AI Gateway 頁面管理服務,從 Catalog Explorer 查看資產與權限。
AI 模型負責產生推論結果;代理把模型、指令與工具組合成工作流程。Unity Gateway 位於這些互動的治理路徑上,Unity Catalog 則提供資產與權限基礎。
| 元件 | 主要責任 | 文件所述能力 |
|---|---|---|
| 模型 / Model | 理解輸入並產生文字、程式或其他結果。 | 支援聊天機器人、程式助理與內容生成。 |
| 代理 / Agent | 依任務呼叫模型與工具,執行多個步驟。 | 判斷要取得哪些資料、呼叫哪些工具,並執行計畫。 |
| MCP / 工具 | MCP 是連接代理與工具、資源、提示的開放協定;工具才是實際可執行的能力。 | 透過 MCP server 提供工具與資源。 |
| Unity Catalog | 登錄資產、管理擁有者與存取權。 | 定義哪些團隊可執行某個模型或工具。 |
| Unity Gateway | 治理經過它的 AI 呼叫、成本、路由與互動。 | 在模型或工具被使用時套用統一規則。 |
| Model Serving | 部署並提供模型推論服務。 | 以 REST API 統一提供自訂、基礎與外部模型存取。 |
| MLflow | 記錄應用執行步驟、評估及比較品質。 | 檢視提示、檢索、工具呼叫、延遲與成本。 |
| Lakewatch | 安全資訊與事件管理(SIEM)。 | 資安團隊整合紀錄、調查威脅。 |
Foundation Model APIs 提供託管基礎模型;system.ai 內已有可呼叫的模型服務。應用帶 Databricks 身分呼叫,按使用方案計費。
Model Provider Service 保存供應商連線與加密憑證(BYOK)。可直接呼叫,也能作為 Model Service 的後端;推論仍交由外部供應商處理。
可由外部應用或 coding agent 呼叫模型服務;MCP 呼叫也可透過 Gateway。
檢查 Unity Catalog 授權;依已啟用的設定評估預算、速率與服務政策。
模型服務路由到實際模型;MCP Service 則提供工具呼叫。MCP 服務管理工具選擇與對外連線,工具所用身分取決於連線設定。
可在回傳前檢查內容,並依設定留下用量、追蹤與稽核資料。以上是不同文件中的控制環節摘要,並非完整的內部執行順序。
若員工或程式仍直接用個人金鑰連到外部模型,這些呼叫不會因公司啟用了 Gateway 就自動受管。官方模型治理教學會設定客戶端入口,並驗證請求是否已寫入 Gateway 用量表。
catalog.schema.object 三層命名;連線、儲存憑證等物件則直接位於 metastore 下。 [37] Metastore 與資產層級 ↗以下依官方文件整理各產品用途及其治理相關能力。
| 想完成的工作 | 會遇到的產品 | 治理與功能範圍 |
|---|---|---|
| 建立企業代理 | Agent Bricks 頁面整合 Databricks AI 能力;可用 Knowledge Assistant 建立領域問答代理、用 Supervisor Agent 協調代理與工具,或以 Python 開發 Custom Agents。 | 負責建立應用;Gateway 治理它呼叫的模型與工具。[30] 建立與部署代理 ↗[38] Agent Bricks 定位更新 ↗ |
| 替模型找公司知識 | AI Search(原 Vector Search)用語意與關鍵字搜尋相關資料,常用於 RAG。 | 索引由 Unity Catalog 治理;AI Search 不支援資料列與欄位層級權限,可透過 filter API 實作應用層存取控制。[32] AI Search 與檢索 ↗ |
| 用自然語言問資料 | Genie One 是商務使用者入口;Genie Agents 由資料團隊設定可信資料、指標與商業規則;Genie Code 是工作區內的程式與資料助理。 | 這些是使用 AI 的介面與能力;Gateway 預算也可涵蓋 Genie 用量。[33] Genie 產品家族 ↗[06] 預算、通知與用量封鎖 ↗ |
| 把應用交給同事使用 | Databricks Apps 在 serverless 平台執行資料與 AI 應用,支援互動儀表板、RAG 聊天介面與資料輸入表單,也能託管自訂 MCP server。 | Apps 執行應用程式,Gateway 管理接入的 AI 呼叫。[31] Databricks Apps ↗[18] MCP 與代理工具總覽 ↗ |
| 先整理資料再提供 AI | Lakeflow pipelines 管理 ETL 流程與資料集依賴;Delta Lake 提供具 ACID 特性的資料表儲存;SQL warehouse 提供分析查詢運算。 | 它們準備、儲存及查詢資料,是資料工作層。[28] Databricks 平台入門 ↗[39] 帳戶、工作區與基本元件 ↗ |
涵蓋產品頁的六項主要功能與八項 More features。每項都附用途、官方來源及文件限制;「文件已說明」表示有操作文件,不代表對所有區域或帳戶都無條件開放。
可設定共用或每人每月門檻,選擇寄出警示或封鎖後續用量;也可替特定人員與群組設例外額度。範圍含經 Gateway 的按 token 用量、ai_query 與 Genie;外部模型費用可選擇納入。
導入前看這裡:封鎖採近即時估算,不中斷執行中請求,也不是最終帳單的絕對上限。預算不涵蓋 provisioned throughput 或繞過 Gateway 的獨立 Serving 流量。外部模型納入預算為 Beta,須另行啟用;預算比對使用服務標籤,不使用請求標籤。
依程式開發任務挑選具備所需能力、成本較低的候選模型。可透過 Unity Gateway CLI 搭配 Codex 或 Claude Code 使用;若要跨不同代理執行框架選擇,需使用 Omnigent。
導入前看這裡:需由帳戶管理員啟用 Smart Routing 預覽;目前僅選 system.ai 模型服務,使用者須有所有候選模型權限。CLI 要以命令列提供任務,互動式根工作階段不適用;跨框架需 Omnigent v0.8.0 以上。
Model Serving 負責實際提供模型推論。可使用 Databricks 託管基礎模型的按 token 付費方式,或為需要預配置容量的工作負載使用 provisioned throughput;也能接外部供應商。
導入前看這裡:Model Serving 有預設服務限制與支援區域;其 serverless compute 需完成帳戶啟用條件。Foundation Model APIs 支援按 token 計費及 provisioned throughput,適用模型依各方案文件列示。
模型服務在 Unity Catalog 中管理名稱、擁有者、說明與權限,可跨共用 metastore 的工作區使用。Agent Services 提供代理登錄、Catalog Explorer 探索與權限管理;其 Beta API 的 GET 回應目前不提供 owner 與 full_name 值。
導入前看這裡:Agent Services 為 Beta。官方頁面對執行能力的敘述前後不一致;本站依「Limitations」保守說明:目前提供登錄與權限管理,不承諾可經登錄服務執行代理,亦不支援其 service policies、rate limits 或 SQL DDL。
以 Unity Catalog 權限決定誰能呼叫服務,再以內容政策檢查每次互動。模型 API、供應商連線與 MCP 服務可各自管理授權。
導入前看這裡:呼叫者需有服務的 EXECUTE 及上層目錄使用權。Model Service 以擁有者權限存取後端,呼叫者不必直接取得底層模型或供應商權限。system.ai 模型服務預設開放帳戶使用者,應先檢查權限。
依呼叫者、輸入、輸出與工具資訊,讓互動繼續(ALLOW)、拒絕(DENY)或等待人員同意(ASK)。可在呼叫前、回應後檢查;Log 模式只記錄,Enforce 模式才實施阻擋。
導入前看這裡:政策不取代基本存取權。DENY 以 HTTP 200 回傳封鎖訊息,原因見 databricks_service_policy;Enforce 模式評估出錯也會封鎖,Log 模式不阻擋。外部 MCP 的 ASK 需客戶端支援 MCP 2025-11-25 以上,並在核准後重試呼叫。
Service Policies 是實施防護的機制。內建 LLM 規則可檢查越獄、不安全內容或幻覺;Sensitive Data Detection 則依格式偵測敏感資料,可在 Model Services 與 Model Provider Services 上阻擋或遮蔽。也可使用 SQL 函式定義自訂政策。
導入前看這裡:Sensitive Data Detection 為 Beta,不支援姓名、地點、組織等自由文字;支援類別未列臺灣身分證字號,官方另示範以 LLM judge 檢查自由文字。LLM 防護判定非確定性,預設只評估單一訊息,不看被保護服務的 system prompt、影像或音訊;模型與供應商服務可擴大輸入的最近回合窗口,MCP 與輸出仍為單訊息。
模型服務可限制每分鐘請求數(QPM)與 token 數(TPM);MCP 服務限制 QPM。可設定整體服務、預設每人及特定使用者或群組規則;群組速率額度由成員共用。
導入前看這裡:預設不設限。超限回傳 HTTP 429,官方建議採指數退避重試。用量在回應後計入,且各服務執行個體分別限流,短時間可能略超門檻。每服務最多 20 筆規則,其中最多 5 筆為群組規則。
按比例分流到多個模型後端,適合逐步上線或 A/B 測試。主目的地失敗時,依指定順序嘗試備援;具工作階段識別資訊時可維持同一目的地。
導入前看這裡:分流最多五個目的地,不能在備援目的地再設定分流。權重決定初次目的地;備援依設定順序重試,不會重新套用分流權重。Smart Routing 則依開發任務挑選模型。
用量表 system.ai_gateway.usage 記錄用量、耗時與呼叫者;inference tables 逐一為模型服務記錄請求與回應。官方建議新部署採統一追蹤表:由 metastore 管理者一次配置,集中同 metastore 工作區的模型與 MCP 服務活動,每列是一個 OpenTelemetry span。
導入前看這裡:兩種紀錄都盡力交付,401、403、429、500 請求可能未記錄。統一追蹤單一屬性超過 3 MiB 會截斷;跨步驟共用 trace ID 尚待提供。其他使用者需另外取得表與父層權限;官方建議授權前加 ABAC 列篩選。統一追蹤不能取代 Databricks 稽核紀錄。
用 system.access.audit 查詢誰在何時存取 AI 服務,並依事件參考確認操作欄位。identity_metadata.run_by 與 run_as 可區分相關執行身分;模型訊息內容則由追蹤或 inference tables 記錄。
導入前看這裡:稽核系統表為 Public Preview,多數事件只在工作區所在區域可用。刪除工作區後,該工作區超過 14 天的事件會從此表移除。若要查看 LLM judge 的完整判定,須在 evaluator model service 另啟用 inference table;受保護服務的表不包含 judge 的輸入與判定。
MLflow 3 串連應用追蹤、自訂或內建評分、人員回饋與版本比較。它協助開發團隊理解模型之外的檢索、工具及代理步驟如何影響品質。
導入前看這裡:官方快速入門包含為應用加入追蹤、執行評估與收集人員回饋;生產監控可對抽樣流量套用評分器。
官網將 Lakewatch 連結為安全監控方案。它是 Databricks 的 SIEM,可彙整安全、IT 與業務資料,支援威脅搜尋、偵測與事件調查。
導入前看這裡:官方 FAQ 列明使用 Lakewatch 需要有效的 Databricks 工作區,並使用平台的 serverless 運算與 Unity Catalog 治理。
官方整合涵蓋 Claude Code、Codex CLI、Cursor 與 Gemini CLI 等工具。Unity Gateway CLI(ug)協助驗證身分、設定代理與導向服務;用量儀表板可觀察不同工具使用狀況。
需有支援區域的工作區與 Unity Catalog。Unity Gateway CLI 安裝需要 Python 3.12 以上及 uv;文件中的 Cursor 整合目前僅支援 Databricks 提供的模型服務。
可使用內建 MCP Services 或登錄外部 MCP。以服務權限、工具選擇與政策管控呼叫。Databricks 管理連線憑證與 OAuth 流程。
共用 principal 讓使用者共用外部憑證;每人 OAuth 代表各使用者存取外部服務。工具選擇只支援精確名稱或前綴比對,不支援排除模式。外部 MCP 請求經工作區 serverless compute plane,受其網路政策控制。
可組合或替換代理框架、共享工作階段,並搭配 Databricks 模型存取與沙箱。需啟用工作區預覽;Databricks Sandbox 有額外區域與預覽條件。Databricks 版僅支援內建 contextual policies,不支援執行任意程式的自訂政策函式。Sandbox host 一律透過 Gateway 存取模型,不接受自帶模型 API 金鑰;也不整合 serverless 出站網路控制,官方要求不要在已啟用該控制的工作區使用。
以下摘要取自所附的操作文件與教學;每張卡片可直接回到原文。功能條件與限制見第 03、06 節。
模型治理教學將 coding agent 導向 Model Service,以 Databricks 憑證呼叫;開發者機器不必保存模型供應商金鑰。接著設定服務權限、速率與預算,並確認用量紀錄。
Model Service 可將請求路由到後端模型;Model Provider Service 管理外部供應商連線。流量管理文件另說明按權重分流及依序嘗試備援。
政策文件說明在請求前與回應後進行內容檢查。內建敏感資料政策可針對支援格式阻擋或遮蔽;其格式型偵測不涵蓋姓名等自由文字。
官方教學使用內建的 system.ai.github,附加政策、授予團隊服務權限、連接開發代理,再確認政策與用量紀錄。工具是否允許,須依實際政策與工具標記判定。
成本文件以服務、實際模型、呼叫身分及標籤歸屬 Databricks 用量。外部模型使用另外的估算表,按小時彙整;預算頁則使用近即時估算。
官方用量儀表板列出請求數、token、延遲百分位與錯誤率。若要讀取請求或回應內容,另使用 inference tables 或統一追蹤表,並留意各自的交付限制。
本節依模型存取治理教學的三個步驟整理;該文件的 Next steps 也列出 GitHub MCP 治理教學。
工作區須啟用 Unity Catalog;準備可呼叫的 Model Service 與 EXECUTE 權限、已登入工作區的 Databricks CLI,以及工作區 URL。服務的完整授權條件見模型文件。
官方建議使用 Unity Gateway CLI(ug)處理 OAuth 與客戶端設定,也提供手動設定路徑。首次啟動時輸入工作區 URL 並完成驗證。
在 Catalog Explorer 管理服務的 EXECUTE,設定 QPM 或 TPM;帳戶管理員可建立 Unity Gateway 預算,選擇通知或封鎖用量。預算採近即時估算,不能保證最終帳單上限。
從代理送出提示,再查詢 system.ai_gateway.usage 確認服務、呼叫者與狀態。查詢系統表需要另外的讀取權限;有服務執行權不代表可讀全部用量紀錄。
官方教學使用 Databricks 提供的 system.ai.github。前提包括 Unity Catalog 工作區、已登入的 Databricks CLI,以及服務上的 MANAGE 與 EXECUTE。
教學指定 system.ai.github_policy 與 disallow_writes,將寫入控制明確設為受治理政策。Service Policies 目前為 Beta,需依政策文件啟用。
在服務 Permissions 頁面授予團隊 EXECUTE。教學另註明,metastore 管理員要在 system.ai 授權前,須先取得該 schema 的 MANAGE。
將客戶端導向該服務的 Gateway MCP 入口;各開發者以 Databricks 身分登入,並具備服務執行權限。
依教學驗證允許與拒絕的工具呼叫,再查用量紀錄。原文對 pull-request 工具與寫入封鎖的敘述有張力,因此此處不保證所有建立 PR 操作皆會放行。
| 項目 | 官方說明 |
|---|---|
| 模型推論 | Foundation Model APIs 提供按 token 或預配置吞吐量等方式;外部模型估算依 token 與供應商公開價格計算,實際費用以供應商帳單為準。 |
| Gateway 與觀測功能 | Usage tracking 是計費功能;官方定價頁註明 inference tables 與 usage tracking 以 1KB 傳輸內容(payload)級距計費。 |
| 政策評估 | 內建 Service Policies 不另收政策費;使用模型評判的檢查,按評估模型呼叫計費,包含政策提示、輸出格式要求、受評內容與評估回應的 token。 |
| 用量與費用對帳 | Databricks 實際計費用量以 system.billing.usage 為依據;外部供應商實際費用以其帳單為依據。各頁面與系統表更新頻率不同,當下數字可能不同。 |
本次可取得定價頁的計費註記,但動態價格表未完整載入;因此不列未核實單價。定價頁亦註明,顯示價格不代表該區域一定提供產品。
官方操作文件明確說明,門檻採近即時估算,正在處理的請求不會被中斷。對外部模型,供應商帳單才是實際收費依據。部落格的「hard cap」描述應搭配這些限制閱讀。
以下狀態依所列 AWS 文件,核對於 2026-09-12;Azure / GCP 及不同工作區需再確認。
| 項目 | 核對結果 | 對導入的意義 |
|---|---|---|
| Unity Gateway 整體 | 正式提供(GA) | 個別擴充功能仍可能需要另外啟用。 |
| Smart Routing | Beta | 候選模型、客戶端模式與跨框架條件見功能詳解。 |
| Service Policies / LLM Guardrails | Beta | 需帳戶管理者開啟;支援 MCP、Model 與 Model Provider Services,不支援 Agent Services。 |
| Unified Trace Table | Beta | 交付 best-effort;完整多步追蹤串聯仍有限制。 |
| Agent Services | Beta | 本站依文件限制章節列為登錄與權限管理;執行能力待官方釐清。 |
| 外部模型費用納入預算 | Beta | 另行啟用並勾選;採估算金額。 |
| 稽核系統表 system.access.audit | Public Preview | 稽核紀錄的查詢介面仍有自己的預覽狀態。 |
| Omnigent on Databricks | Beta / 相關產品 | 工作區預覽、Sandbox 與區域有各自條件。 |
Inference Tables 只能在 external storage catalog 建立;不支援 Default storage catalog 或以 private endpoint 保護的儲存體,也不能指定既存表。超過 10 MiB 的請求或回應不會記錄,會以 logging_error_codes 標示;資料交付不保證完整。[41] Inference Tables 與限制 ↗
用量表預設查詢者須同時具備 account admin 與 metastore admin 角色,亦可由管理者另行授權。對超過 1 MiB 的非串流、非 embedding 回應,Gateway 不追蹤 token 用量。
AWS 區域文件分別列出模型、AI 功能及 MCP 的支援範圍,部分功能須啟用跨地理區域路由。MCP 與 Unity Catalog HTTP connections 的支援區域依 Custom Model Serving 表列範圍。
官方仍保留標示 legacy 的 Model Serving 端點治理文件。本指南以 Unity Gateway 與 Unity Catalog 的 Model Services 為主。舊端點的權限、API 與用量表可能不同;例如舊用量表是 system.serving.endpoint_usage,不要直接套用到新服務。
它主要是企業 AI 的治理與使用管理層。應用或代理仍使用底層模型與工具完成工作;Gateway 協助管理這些互動。
不一定。BYOK provider services 可連到公司原本使用的外部供應商,並由 Unity Catalog 管理加密憑證。供應商支援、驗證方式與資料傳輸路徑仍須確認。
Smart Routing 依開發任務挑候選模型;流量分配依設定百分比選後端。備援則處理初次呼叫失敗後的重試順序。三者解決的問題不同。
要看驗證設定。每人 OAuth 可代表各自的身分;共用 principal 則用共同憑證。不能只因 MCP 經過 Gateway,就推論外部系統必然採每人權限。
文件提供 Unity Gateway CLI(ug)及手動設定兩條路。ug 處理 OAuth 並寫入支援代理的設定檔;手動教學涵蓋 Claude Code、Codex CLI、Cursor 與 Gemini CLI。需使用支援區域且已啟用 Unity Catalog 的工作區。
官方未作這種保證。文件明列 LLM judge 的判定非確定性;預設評估單一訊息,不讀取被保護服務的 system prompt、影像或音訊。格式型 Sensitive Data Detection 也只涵蓋列出的類別,不包含姓名等自由文字。
Model Serving 文件說明,Foundation Model APIs 的資料落地遵循 Databricks Geos 界線;各功能支援區域另見官方區域表。資料保存則有獨立規則:對付費帳戶,Databricks 不會將送入 Model Serving 的輸入與輸出用於訓練模型或改善 Databricks 服務。就 Foundation Model APIs 而言,Databricks 可為防範濫用,在工作區同區保存輸入與輸出最多 30 天;合作模型供應商另有安全用途留存條件。
這是依 Databricks 官方來源重新整理的繁體中文導讀,並非官方翻譯。技術能力以 AWS 英文操作文件為依據,使用案例與步驟取自官方文件。查核日期、來源類型、原文矛盾與取得限制列在來源索引。
本指南收錄 44 個官方來源入口,涵蓋平台入門、14 項功能、產品關係與導入限制。本次重新開啟原有全部來源正文,並補入用量、概念與政策細節文件。內容核對日為 2026-09-12;「本站核對」表示實際開啟查閱的日期,不是官方發布日。
範圍:技術細節依 Databricks on AWS 英文正文;產品頁用於產品定位,部落格僅作補充。下列類型已分別標示,不把部落格當成操作文件。核對結果只代表查閱當時的公開內容,沒有以實際 Databricks 帳戶執行功能驗證。定價頁動態單價未完整取得。
EXECUTE 要求不同;本指南採明確的目標服務 MANAGE 條件,未自行追加互相矛盾的函式授權要求。