Unity Gateway 中文指南
產品研究 / Databricks / Unity Gateway繁體中文 · 官方資料導讀
01 / 先懂產品定位

Unity Gateway把企業 AI 的使用,
變成可管理的日常。

當公司開始使用多種模型、程式開發代理與企業工具,Unity Gateway 提供共同的治理入口:誰能用、花多少、能做什麼、出了什麼問題。

從零開始閱讀 · 功能可展開深入 · 2026 年 9 月核對

COST / 成本

花費有歸屬

找出用量來源,搭配預算、限制與模型選擇管理支出。

CHOICE / 選擇

模型有彈性

在共同治理入口下,使用託管模型或串接外部供應商。

CONTROL / 控制

操作有規則

把權限、防護、工具控制與紀錄帶進 AI 的執行過程。

公司最值得問的第一個問題

我們是否已經有多個團隊各自接模型、各自保管金鑰,卻難以統一回答「誰用了多少、能存取哪些資料」?如果有,Gateway 的管理價值就很具體。這是本指南依功能提出的評估角度,並非已替你的公司做出採購結論。

02 / 架構與基本名詞

先把模型、代理與治理分清楚

AI 模型負責產生推論結果;代理把模型、指令與工具組合成工作流程。Unity Gateway 位於這些互動的治理路徑上,Unity Catalog 則提供資產與權限基礎。

元件主要責任公司裡的直覺例子
模型 / Model理解輸入並產生文字、程式或其他結果。負責撰寫客服回覆草稿的能力。
代理 / Agent依任務呼叫模型與工具,執行多個步驟。查訂單、讀退貨規則,再產生回覆的流程。
MCP / 工具讓代理能查資料、使用 API 或操作外部系統。查詢知識庫、GitHub 或公司系統。
Unity Catalog登錄資產、管理擁有者與存取權。定義哪些團隊可執行某個模型或工具。
Unity Gateway治理經過它的 AI 呼叫、成本、路由與互動。在模型或工具被使用時套用統一規則。
Model Serving部署並提供模型推論服務。真正承接推論運算與容量需求。
MLflow / Lakewatch分別支援 AI 品質追蹤評估,以及安全分析。開發團隊除錯與資安團隊調查。

一個客服代理的請求,會經過哪些地方?

  1. 應用帶著身分發出請求

    可由外部應用或 coding agent 呼叫模型服務;MCP 呼叫也可透過 Gateway。

  2. 確認服務權限,套用使用控制

    檢查 Unity Catalog 授權;依已啟用的設定評估預算、速率與服務政策。

  3. 模型產生結果,需要工具時另發工具呼叫

    模型服務路由到實際模型;MCP 服務管理工具選擇與對外連線。工具所用身分取決於連線設定。

  4. 回應檢查與紀錄

    可在回傳前檢查內容,並依設定留下用量、追蹤與稽核資料。這是概念順序,實際執行細節依服務類型而異。

治理的邊界,就是你接進來的路徑。

若員工或程式仍直接用個人金鑰連到外部模型,這些呼叫不會因公司啟用了 Gateway 就自動受管。導入需同步處理客戶端設定、憑證、網路路徑與使用規範。

Token
模型處理文字等內容的計量單位;輸入與輸出可能採不同費率。
Endpoint / Model Service
應用呼叫的服務入口。Model Service 可包含多個後端目的地。
BYOK
Bring Your Own Key:使用公司既有供應商金鑰,由平台管理連線。
Harness
讓代理執行任務的框架或執行環境,例如 Claude Code、Codex。
Trace / Span
Trace 表示一次流程的追蹤脈絡;Span 記錄其中一個操作。
Beta / GA
Beta 是仍可能變動的預覽功能;GA 是正式提供。兩者都需確認區域與設定條件。
03 / 逐項閱讀

官網的 14 項功能,逐一拆解

06 核心 + 08 延伸

涵蓋產品頁的六項主要功能與八項 More features。每項都附用途、企業情境及文件限制;「文件已說明」表示有操作文件,不代表對所有區域或帳戶都無條件開放。

成本與模型選擇
01成本歸屬Cost Attribution文件已說明

把 AI 帳單拆到服務、模型與使用者。Databricks 模型的費用依帳務資料歸屬;外部模型依 token 與公開單價估算,並按小時彙整。服務標籤可連結團隊或成本中心。

企業情境(示例)
FinOps 能追查哪個服務或使用者帶動支出,再和實際工作成果對照。

導入前看這裡:外部估算不等於供應商帳單;Custom provider 目前不支援外部費用追蹤。

02預算與支出限制Budgets and Spend Limits部分 Beta

可設定共用或每人每月門檻,選擇寄出警示或封鎖後續用量;也可替特定人員與群組設例外額度。

企業情境(示例)
將正式服務與實驗分開管理,避免實驗耗盡生產預算。

導入前看這裡:封鎖採近即時估算,不中斷執行中請求,也不是最終帳單的絕對上限。預算不涵蓋 provisioned throughput 或繞過 Gateway 的獨立 Serving 流量。外部模型納入預算為 Beta,須另行啟用;預算比對使用服務標籤,不使用請求標籤。

03智慧路由Smart RoutingBeta

依程式開發任務挑選具備所需能力、成本較低的候選模型。透過 Unity Gateway CLI 使用;若要跨不同代理執行框架選擇,需使用 Omnigent。

企業情境(示例)
讓簡單修改與複雜除錯採用不同模型,再用相同任務集評估品質與成本。

導入前看這裡:目前僅選 system.ai 模型服務,使用者須有所有候選模型權限。CLI 要以命令列提供任務,互動式根工作階段不適用;跨框架需 Omnigent v0.8.0 以上。

04推論容量Inference Capacity相關產品

Model Serving 負責實際提供模型推論。可使用 Databricks 託管基礎模型的按 token 付費方式,或為需要預配置容量的工作負載使用 provisioned throughput;也能接外部供應商。

企業情境(示例)
先用按量模式驗證需求,再根據延遲、吞吐量與用量穩定度評估容量配置。

導入前看這裡:Gateway 的流量管理與底層推論容量是不同層次。增加備援不能代替容量規劃;模型與區域可用性需逐一確認。

資產、存取與安全
05AI 資產登錄AI Asset Registry部分 Beta

把 AI 服務放進 Unity Catalog,集中查看名稱、擁有者、說明與權限。模型服務可跨共用 metastore 的工作區治理;Agent Services 提供代理登錄與權限管理。

企業情境(示例)
平台團隊建立核准的 AI 服務清單,降低重複串接與無人維護的代理數量。

導入前看這裡:Agent Services 為 Beta。文件限制章節明列:目前不支援透過登錄服務執行代理,也不支援其 service policies、rate limits 或 SQL DDL。

06安全與存取控制Security and Access含 Beta 政策

以 Unity Catalog 權限決定誰能呼叫服務,再以內容政策檢查每次互動。模型 API、供應商連線與 MCP 服務可各自管理授權。

企業情境(示例)
工程團隊只取得核准模型與指定工具的使用權,平台管理者集中維護連線憑證。

導入前看這裡:系統提供的 model services 預設可供帳戶使用者執行,導入時須主動檢查並收斂權限。政策能力的 Beta 狀態見下項。

07服務政策Service PoliciesBeta

依呼叫者、輸入、輸出與工具資訊,讓互動繼續(ALLOW)、拒絕(DENY)或等待人員同意(ASK)。可在服務呼叫前及回應後套用內建或自訂規則。

企業情境(示例)
例如讓敏感工具操作先等待核准,或封鎖含敏感資料的模型回覆。

導入前看這裡:政策不取代基本存取權。DENY 可能以 HTTP 200 搭配結構化封鎖資訊回傳,整合端不能只靠 HTTP 狀態判斷是否放行。

08AI 防護規則AI GuardrailsLLM 防護為 Beta

官方範例涵蓋個資偵測與遮蔽、越獄與提示注入攔截、不安全內容,以及自訂品牌規則。可針對輸入或輸出選擇處理動作。

企業情境(示例)
客服摘要先處理個資,再檢查回覆是否包含不宜提供的內容。

導入前看這裡:實作服務層防護可參照 Service Policies。偵測效果與延遲仍需用公司的繁體中文、混合語言與領域資料驗證;不是零誤判的保證。

09速率限制Rate Limits文件已說明

模型服務可限制每分鐘請求數(QPM)與 token 數(TPM);MCP 服務限制 QPM。可設定整體服務、預設每人及特定使用者或群組規則。

企業情境(示例)
避免單一程式重試迴圈占滿共享服務,為其他使用者保留使用空間。

導入前看這裡:預設不設限。超限回傳 HTTP 429,客戶端須採退避重試;短時間突發可能略超門檻,因此不能視為精確的即時配額鎖。

10流量管理與備援Traffic Management文件已說明

按比例分流到多個模型後端,適合逐步上線或 A/B 測試。主目的地失敗時,依指定順序嘗試備援;具工作階段識別資訊時可維持同一目的地。

企業情境(示例)
先讓小比例流量使用新模型,觀察品質;供應商限流或服務異常時切到已驗證的備援。

導入前看這裡:分流最多五個目的地。分流按權重選擇,和依任務能力挑模型的 Smart Routing 是不同機制。備援模型的工具、輸出格式及品質須先相容。

觀測、除錯與稽核
11追蹤與可觀測性Tracing and Observability統一追蹤表 Beta

用量表回答誰用了多少、耗時多久;inference tables 保存單一端點的請求與回應。統一追蹤表可由 metastore 管理者一次配置,集中模型與 MCP 活動,使用 OpenTelemetry 格式。

企業情境(示例)
調查代理失敗時,把服務呼叫與錯誤內容放在同一個分析位置。

導入前看這裡:統一追蹤交付為 best-effort,不能取代正式稽核紀錄。跨步驟共用 trace ID 的完整串聯仍列為即將提供;閱讀權限須另外授予。

12AI 稽核紀錄AI Audit Logging官方事件參考

用 system.access.audit 查詢服務存取軌跡,再依官方事件參考確認有哪些操作會記錄。提示詞與回應內容的調查需搭配追蹤或 inference tables。

企業情境(示例)
資安人員能釐清誰在何時存取哪個 AI 服務,並對照操作與政策結果。

導入前看這裡:不要假設每個稽核事件都包含完整提示詞或回應。紀錄可能有敏感內容,存取、保存期限與匯出流程都需管理。

13MLflow 追蹤與評估MLflow Tracing相關產品

MLflow 3 串連應用追蹤、自訂或內建評分、人員回饋與版本比較。它協助開發團隊理解模型之外的檢索、工具及代理步驟如何影響品質。

企業情境(示例)
比較兩版客服代理的正確率、引用品質與回覆成本,決定是否值得上線。

導入前看這裡:Gateway 提供治理與流量資訊;MLflow 的應用儀表化與評估資料仍需依工作流程設置。

14安全監控Security Monitoring相關產品

官網將 Lakewatch 連結為安全監控方案。它是 Databricks 的 SIEM,可彙整安全、IT 與業務資料,支援威脅搜尋、偵測與事件調查。

企業情境(示例)
把 AI 異常活動與身分、端點或其他安全事件對照,讓 SOC 調查有更多上下文。

導入前看這裡:Lakewatch 是相關產品;其可用性、部署與費用須另外評估,不能假設已包含在每個 Gateway 設定中。

延伸到實際工作:Coding Agents、MCP 與 Omnigent

讓開發工具共用治理入口

官方整合涵蓋 Claude Code、Codex CLI、Cursor 與 Gemini CLI 等工具。Unity Gateway CLI(ug)協助驗證身分、設定代理與導向服務;用量儀表板可觀察不同工具使用狀況。

需有支援區域的工作區與 Unity Catalog。這是模型與工具整合,並不等於自動接管所有既有桌面訂閱。

MCP:治理代理伸出去的手

可使用內建 MCP Services 或登錄外部 MCP。以服務權限、工具選擇與政策管控呼叫。Databricks 管理連線憑證與 OAuth 流程。

共用服務帳號與每人 OAuth 的權限效果不同。要維持外部系統的個人存取範圍,必須確認使用者身分傳遞與每人授權。

Omnigent:在既有代理框架之上的協作層 Beta

可組合或替換代理框架、共享工作階段,並搭配 Databricks 模型存取與沙箱。它是官網「建立與執行代理」情境的相關方案,需另外啟用預覽;使用 Databricks Sandbox 還有額外區域與功能條件。

04 / 企業效益

這個產品能幫公司做什麼?

以下是依官方能力推導的導入情境,不是客戶實績或成效承諾。選擇最接近你們現況的一項,先做可衡量的小規模驗證。

CUSTOMER SUPPORT

讓客服 AI 的資料與品質可檢查

現況:客服資料可能含個資,模型回覆偶爾不符合公司規範。

做法:接上適當的輸入與輸出防護,再用 MLflow 評估回覆與人工修正情況。

試點衡量:任務正確率、敏感資訊漏檢率、誤攔率、人工修改時間。

KNOWLEDGE & TOOLS

讓代理使用企業工具時有邊界

現況:代理能查內部資料,也可能嘗試不必要的寫入或高風險操作。

做法:以 MCP 服務限制可見工具,確認每人 OAuth 或服務帳號,對特定操作套用服務政策。

試點衡量:未授權操作攔截結果、正常任務成功率、授權流程摩擦。

FINOPS

把 AI 支出連回部門與工作成果

現況:只有總帳單,無法判斷哪個專案值得繼續投入。

做法:設計服務標籤與成本中心映射,拆解費用;把成功完成的業務任務當分母比較。

試點衡量:可歸屬支出比例、每成功案件成本、異常支出發現時間。

判斷效益,別只看 token 變少。

若模型單價降低,卻讓錯誤與重試增加,整體成本可能更高。建議同時比較「每個成功任務的總成本」、品質、延遲,以及平台管理工時;這是本指南的評估建議。

你們的現況初步評估方向
已使用 Databricks / Unity Catalog,且多團隊採用 AI治理與身分基礎較容易銜接,適合挑一個共用服務試點。
尚未使用 Databricks,但模型與代理已相當分散管理問題可能成立;需把新平台導入、人員與整合費用一併比較。
僅有單一、低流量的簡單模型應用先確認是否真的需要跨團隊治理,避免治理維運成本高於現有問題。
需要全離線、指定地區或禁止任何預覽功能先核對部署模式、資料路徑與必要功能狀態,再談架構。

以上為架構評估推論。未提供公司產業、雲端環境、AI 用量與預算,因此本指南不預設 ROI 或建議立即採購。

05 / 從小範圍開始

一條可實作的導入路線

以下是建議的試點順序,並非官方保證的時程。以一個開發團隊、一個模型服務與一個低風險工具為起點。

  1. 盤點現況與成功標準

    列出工具、模型供應商、金鑰擁有者、資料類型、每月用量與目前痛點。先收集任務品質、成本及延遲基準。

  2. 確認工作區、權限與功能可用性

    核對雲端與區域、Unity Catalog、管理者角色,以及必要的 Beta 開關。檢查現有 system.ai 預設權限;確認紀錄存放位置與閱讀權限。

  3. 接入一個模型與一個客戶端

    使用既有託管 model service,或設定 BYOK provider service。把測試應用或 coding agent 導向 Gateway,確認身分與用量可查。

  4. 加入成本與安全控制

    設定標籤、速率、預算通知與封鎖。用無敏感資料的測試案例驗證防護;MCP 工具從最小權限開始。

  5. 演練故障與權限邊界

    測試無權限帳號、超量請求、模型異常與政策封鎖。確認應用能理解錯誤、停止無效重試,且正常流程仍能完成。

  6. 用數據決定擴大或停止

    回看成功任務成本、品質、延遲、管理工時與調查能力。通過事先約定的標準後,再擴到更多團隊與模型。

需要哪些人一起參與?

角色應確認的事情
平台 / 資料工程Gateway 路徑、Unity Catalog、模型服務、憑證與網路。
應用 / AI 工程SDK 或客戶端相容性、重試、備援與品質評估。
資安 / 資料治理身分傳遞、工具權限、敏感內容、追蹤保存與調閱。
FinOps / 部門負責人標籤與成本歸屬、預算門檻、費用對帳與效益指標。
06 / 採用前必讀

成本怎麼看,哪些能力仍有限制?

把總成本拆成四個部分

成本項目應取得的資料
模型推論模型、輸入與輸出 token、快取、按量或預配置容量;外部供應商需對照其帳單。
Gateway 與觀測功能依實際啟用功能核對價格。官方定價頁註明 inference tables 與 usage tracking 以 1KB payload 級距計費。
資料與相關服務紀錄保存、查詢與評估運算,以及是否採用 Model Serving、Omnigent、Lakewatch 等服務。
導入與維運客戶端改接、權限維護、政策測試、事件處理與人員工時。

後兩項為成本盤點建議。此輪官方定價頁的動態單價表未完整呈現,因此不填入未核實的金額;請依雲端、區域與合約取得正式報價。各產品的費用也不應全部都按秒或全部都按 token 計算。

預算封鎖 ≠ 最終帳單不可能超支

官方操作文件明確說明,門檻採近即時估算,正在處理的請求不會被中斷。對外部模型,供應商帳單才是實際收費依據。部落格的「hard cap」描述應搭配這些限制閱讀。

功能狀態速查

以下狀態依所列 AWS 文件,核對於 2026-09-11;Azure / GCP 及不同工作區需再確認。

項目核對結果對導入的意義
Unity Gateway 整體正式提供(GA)個別擴充功能仍可能需要另外啟用。
Smart RoutingBeta候選模型、客戶端模式與跨框架條件見功能詳解。
Service Policies / LLM GuardrailsBeta需管理者開啟;先驗證正常與異常案例。
Unified Trace TableBeta交付 best-effort;完整多步追蹤串聯仍有限制。
Agent ServicesBeta目前可登錄與管權限,不能透過登錄服務執行代理。
外部模型費用納入預算Beta另行啟用並勾選;採估算金額。
Omnigent on DatabricksBeta / 相關產品工作區預覽、Sandbox 與區域有各自條件。

五個應向平台團隊或 Databricks 確認的問題

  • 我們的雲端、區域與模型是否支援所需功能?資料實際在哪裡處理?
  • 外部模型、MCP 工具各使用誰的憑證?能否保留使用者本來的權限?
  • 目前應用有哪些流量不會經過 Gateway?如何辨識與管理?
  • 紀錄是否會含提示詞、程式碼或敏感資料?誰可閱讀、保存多久?
  • 選用功能的完整價格、預覽支援條件與故障處理方式是什麼?
07 / 常見問題

容易混淆的地方,一次說清楚

Unity Gateway 是新的聊天機器人或大型語言模型嗎?

它主要是企業 AI 的治理與使用管理層。應用或代理仍使用底層模型與工具完成工作;Gateway 協助管理這些互動。

一定要把外部模型搬到 Databricks 才能治理嗎?

不一定。BYOK provider services 可連到公司原本使用的外部供應商,並由 Unity Catalog 管理加密憑證。供應商支援、驗證方式與資料傳輸路徑仍須確認。

Smart Routing 和流量分配有什麼不同?

Smart Routing 依開發任務挑候選模型;流量分配依設定百分比選後端。備援則處理初次呼叫失敗後的重試順序。三者解決的問題不同。

接了 MCP,就一定只會看到該使用者本來有權限的資料嗎?

要看驗證設定。每人 OAuth 可代表各自的身分;共用 principal 則用共同憑證。不能只因 MCP 經過 Gateway,就推論外部系統必然採每人權限。

能取代 ChatGPT、Claude、Cursor 的所有訂閱嗎?

不能直接做這個結論。官方 coding agent 整合描述的是模型與工具流量接入;既有產品的介面、授權與訂閱是否可替代,需要逐項比對。

會自動保證答案正確、完全沒有資料外洩嗎?

不會。服務政策與防護能實施控制;答案品質還需要任務評估、人員回饋與持續監控。建議在自己的語言與資料情境量測誤判、漏檢與品質。

這份中文網站是官方文件嗎?

這是依 Databricks 官方產品頁、文件與部落格製作的獨立導讀,以重新整理的繁體中文說明呈現。遇到版本、可用性或操作細節差異時,請回到所附官方來源;企業情境與試點指標則是本指南的分析建議。

08 / 官方來源索引

繼續深入,直接回到原始文件

本指南收錄 27 個官方來源入口:產品主頁的主要功能介紹,加上治理、整合、定價與導入文件。內容核對日為 2026-09-11,文件日期為頁面標示的更新日期。

範圍:技術細節主要依 Databricks on AWS 英文文件。未將第三方評論當成產品事實;沒有把付費電子書或登入後內容視為已讀。官網部分舊連結仍帶有 ai-gateway 或 beta 字樣,本頁使用核對後的文件位置。

  1. 產品總覽 ↗官方產品頁
  2. Unity Gateway 技術總覽 ↗文件 · 2026-09-03
  3. AI 成本分析 ↗文件 · 2026-08-03
  4. Smart Routing ↗文件 · 2026-09-08
  5. Service Policies ↗文件 · 2026-09-02
  6. 統一追蹤表 ↗文件 · 2026-09-09
  7. 速率限制 ↗文件 · 2026-08-26
  8. 流量分配與備援 ↗文件 · 2026-09-01
  9. 稽核事件參考 ↗文件 · 2026-08-28
  10. MLflow 3 for GenAI ↗文件 · 2026-06-30
  11. Coding Agents 整合 ↗文件 · 2026-09-08
  12. MCP 與代理工具總覽 ↗文件 · 2026-08-25
  13. Omnigent on Databricks ↗文件 · 2026-09-02
  14. 可觀測性工具選擇 ↗文件 · 2026-08-03
  15. AI Spend Controls 功能介紹 ↗官方部落格 · 2026-07-23
  16. Guardrails 功能與範例 ↗官方部落格 · 2026-05-19
  17. AWS 功能與區域支援 ↗文件 · 2026-09-09
  18. GitHub MCP 治理教學 ↗文件 · 2026-09-03