문제: AI 도입이 빠를수록 거버넌스 격차가 커진다
기업이 LLM과 에이전트를 도입하는 속도는 거버넌스 체계가 따라가는 속도보다 항상 빠르다. 한 팀은 OpenAI API를 직접 호출하고, 다른 팀은 Claude를 사용하며, 세 번째 팀은 오픈소스 모델을 자체 서버에 올린다. 각 팀은 서로 다른 MCP 서버로 외부 도구를 연결하고, 에이전트가 어떤 도구를 언제 호출했는지 기록이 없는 경우가 많다.
이 상황에서 발생하는 세 가지 실질적 위험이 있다.
비용 폭주: 에이전트가 루프에 빠지거나 토큰 효율이 낮은 모델로 무거운 작업을 처리하면 예산이 예측 불가능하게 소모된다. 부서별 청구 추적도 수작업이다.
보안·규정 위반: PII가 외부 API로 노출되거나, 승인되지 않은 모델이 규정 대상 데이터를 처리한다. 감사(audit) 증거를 사후에 재구성하기 어렵다.
품질 비일관성: 팀마다 다른 모델을 쓰면서 동일 쿼리에 대한 답이 달라진다. 시스템 프롬프트와 도구 목록도 환경마다 분산돼 있다.
Databricks는 이 문제를 데이터 거버넌스 시스템인 Unity Catalog를 AI 런타임 레이어까지 확장하는 방식으로 해결한다. 그 결과가 Unity AI Gateway다. 2026년 6월 16일 Data + AI Summit에서 발표됐고, 2026년 8월 4일 GA(일반 제공)가 됐다.
Unity Catalog 위에 쌓인 AI 런타임 레이어
Unity AI Gateway의 가장 중요한 설계 결정은 새로운 제어 플레인을 만들지 않는 것이다. 기존 Unity Catalog의 ID, 권한, 계보(lineage), 감사 인프라 위에 AI 런타임 거버넌스를 올린다.
기업은 이미 데이터 자산에 대해 Unity Catalog를 통해 "누가 어떤 데이터에 접근할 수 있는가"를 정의한다. Unity AI Gateway는 이 체계를 AI 상호작용으로 확장한다: "누가 어떤 모델에 어떤 비용으로 요청할 수 있는가, 그 요청에 어떤 정책이 적용되는가."
Unity AI Gateway가 관리하는 자산 유형은 다음과 같다.
| 자산 | 예시 | 관리 단위 |
|---|---|---|
| 모델 엔드포인트 | Claude 4, GPT-5.6, 자체 서빙 모델 | 모델 레지스트리 항목 |
| 에이전트 | 코딩 어시스턴트, 데이터 분석 에이전트 | 에이전트 레지스트리 항목 |
| MCP 서비스 | GitHub MCP, Jira MCP, Slack MCP | MCP 레지스트리 항목 |
| 스킬 | 함수, API 래퍼 | 스킬 레지스트리 항목 |
에이전트 레지스트리: 분산된 에이전트를 한 곳에서
에이전트 레지스트리(Agent Registry)는 Unity Catalog 내의 단일 에이전트 시스템 오브레코드다. Databricks에서 만든 에이전트든, 외부 플랫폼(LangChain, OpenAI Agents SDK, AutoGen 등)에서 온 에이전트든 동일한 레지스트리에 등록한다.
등록된 에이전트는 다음 속성을 갖는다.
- 소유자 및 팀: 책임 귀속점
- 승인 범위: 접근 가능한 데이터 카탈로그, 모델, MCP 서비스
- 버전: 에이전트의 시스템 프롬프트, 도구 목록 변경 이력
- 감사 로그 연결: 이 에이전트가 수행한 모든 호출 기록
이 레지스트리가 없으면, 조직 내에 에이전트가 몇 개 실행 중인지, 각 에이전트가 어떤 외부 도구에 접근하는지 파악하기가 구조적으로 어렵다.
스마트 라우팅과 하드 지출 한도
스마트 라우팅(Smart Routing)은 요청의 복잡도, 품질 요구사항, 비용을 조합해 어느 모델로 보낼지 자동으로 결정한다. 예컨대, 단순 요약 작업은 저비용 모델로, 코드 생성은 고품질 모델로 보내도록 정책을 설정할 수 있다.
하드 지출 한도(Hard Spend Caps)는 예산 초과를 사전에 차단한다.
-- Unity AI Gateway 정책 예시 (가상 SQL 표현)
CREATE OR REPLACE AI POLICY team_ml_budget
FOR PRINCIPAL GROUP 'data-science-team'
HARD_SPEND_CAP = 5000 -- USD/월
ROUTING_STRATEGY = 'cost_quality_balanced'
FALLBACK_MODEL = 'claude-haiku-4-5';정책은 사용자·팀·에이전트 단위로 설정할 수 있다. 한도에 도달하면 요청이 자동으로 거부되거나, 더 저렴한 모델로 폴백된다. 비용 초과가 발생한 뒤 사후에 추적하는 방식에서 실시간 차단 방식으로 전환된다.
서비스 정책과 PII 가드레일
서비스 정책(Service Policies)은 각 요청의 내용과 요청자 ID에 따라 처리 방식을 결정하는 런타임 규칙이다. 두 가지 주요 가드레일이 기본 제공된다.
PII 가드레일: 요청 또는 응답에 개인식별정보(이름, 이메일, 주민등록번호 등)가 포함된 경우, 정의된 정책에 따라 마스킹하거나 요청 자체를 차단한다. 외부 모델 API로 PII가 유출되는 경로를 제어 플레인 수준에서 막는다.
프롬프트 인젝션 탐지: 에이전트가 외부 MCP 서비스나 사용자 입력에서 받은 내용에 악의적인 프롬프트가 포함된 경우 이를 감지하고 처리를 중단한다.
정책은 SQL 기반 컨텍스트 조건으로 설정 가능하다. 예컨대 "EU 거주자의 요청은 EU 지역 모델로만 라우팅"과 같은 데이터 주권 정책을 선언적으로 표현할 수 있다.
MCP 거버넌스: 에이전트가 연결할 수 있는 도구 통제
에이전트가 외부 도구(GitHub, Jira, Slack 등)에 접근하는 표준 경로로 Model Context Protocol(MCP)이 자리를 잡으면서, MCP 서버 자체가 새로운 거버넌스 대상이 됐다.
Unity AI Gateway는 MCP 서비스를 Unity Catalog 레지스트리에 등록하고, 에이전트가 어떤 MCP 서비스에 접근할 수 있는지 정책으로 제어한다.
Databricks가 관리하는 공식 MCP 커넥터는 다음을 포함한다.
| MCP 서비스 | 주요 기능 |
|---|---|
| GitHub MCP | 코드 검색, 이슈 조회, PR 생성 |
| Jira MCP | 이슈 조회·생성, 프로젝트 상태 |
| Slack MCP | 채널 메시지 조회, 알림 전송 |
| Google Drive MCP | 문서 검색, 파일 읽기 |
이 커넥터들은 Unity AI Gateway를 통해 라우팅되므로, 어떤 에이전트가 언제 어떤 도구를 호출했는지 감사 로그로 자동 기록된다. 팀이 자체 MCP 서버를 만들어 등록하는 것도 지원한다.
거버넌스 감사 로그
Unity AI Gateway는 AI 활동에 대한 거버넌스 감사 로그를 자동으로 캡처한다. 로그에 포함되는 항목은 다음과 같다.
- 모델 요청: 어떤 사용자/에이전트가 어떤 모델에 언제 요청했는가
- 도구 호출: 에이전트가 어떤 MCP 서비스의 어떤 함수를 호출했는가
- 정책 적용: 어떤 정책이 트리거됐고 어떤 결과를 낳았는가
- 비용 추적: 요청별, 에이전트별, 팀별 토큰 소비 및 비용
이 로그는 Unity Catalog의 기존 데이터 거버넌스 감사 인프라와 통합된다. 규정 감사 시 AI 관련 증거를 데이터 접근 로그와 함께 제출할 수 있다.
Unity AI Gateway 아키텍처
기존 AI Gateway (MLflow Model Serving)와의 차이
Databricks에는 이전부터 AI Gateway 기능이 MLflow Model Serving에 포함돼 있었다. 이 두 레이어는 다른 문제를 해결한다.
| MLflow AI Gateway | Unity AI Gateway | |
|---|---|---|
| 범위 | 모델 엔드포인트 라우팅·속도 제한 | 에이전트·모델·MCP·스킬 전체 거버넌스 |
| 거버넌스 연동 | 별도 구성 | Unity Catalog와 완전 통합 |
| 에이전트 지원 | 제한적 | 에이전트 레지스트리 전체 지원 |
| MCP 관리 | 없음 | MCP 레지스트리 + 커넥터 관리 |
| 감사 로그 | 모델 요청 한정 | 모든 AI 상호작용 |
Unity AI Gateway는 MLflow AI Gateway를 대체하는 것이 아니라, 그 위에 올라가는 엔터프라이즈 거버넌스 레이어다.
운영 도입 체크리스트
Unity AI Gateway를 조직에 도입할 때 단계별로 확인할 사항이다.
1단계 — 인벤토리
- 현재 조직에서 사용 중인 모든 모델 API를 열거하고 Unity Catalog에 등록한다.
- 실행 중인 에이전트(내부 개발 + 외부 플랫폼 모두)를 에이전트 레지스트리에 등록한다.
- 에이전트가 연결하는 외부 도구(MCP 또는 API)를 목록화한다.
2단계 — 정책 설계
- 팀·프로젝트별 월간 AI 예산을 설정하고 하드 지출 한도로 구성한다.
- PII 처리가 허용된 모델과 허용되지 않는 모델을 구분해 PII 가드레일을 설정한다.
- 규정 대상 데이터(예: 의료 정보)에 대한 모델 라우팅 정책을 정의한다.
3단계 — MCP 통합
- Databricks 관리형 MCP 커넥터(GitHub, Jira, Slack, Google Drive)를 Unity AI Gateway를 통해 노출한다.
- 팀이 자체 개발한 MCP 서버를 MCP 레지스트리에 등록하고 접근 정책을 붙인다.
4단계 — 감사 연결
- 거버넌스 감사 로그를 기존 데이터 감사 로그와 함께 조회할 수 있도록 파이프라인을 구성한다.
- AI 관련 이상 징후(지출 급증, 비인가 모델 접근, PII 차단 빈도)에 대한 알림을 설정한다.
현재 한계
- Unity AI Gateway는 Databricks 플랫폼 내 에이전트 및 모델에 집중돼 있다. Databricks 외부에서 직접 모델 API를 호출하는 워크로드는 별도 처리가 필요하다.
- MCP 커넥터 목록이 초기 단계이므로 조직이 사용하는 모든 도구가 Databricks 관리형으로 제공되지 않을 수 있다. 자체 MCP 서버 등록으로 보완해야 한다.
References
- Unity AI Gateway is Generally Available — Databricks Blog (2026-08-04)
- AI governance at Data + AI Summit 2026: What's new with Unity AI Gateway — Databricks Blog (2026-06-16)
- AI governance with Unity AI Gateway — Databricks 공식 문서
- Expanding agent governance with Unity AI Gateway — Databricks Blog
- Databricks Unity AI Gateway Explained: Multi-Model AI Governance — Addepto (2026)
- Unity AI Gateway: Databricks Runtime Agent Governance 2026 — Atlan
- Unity AI Gateway product page — Databricks