이 문서는 Unity Catalog 섹션의 일부입니다.
개념
💡 Delta Sharing 은 조직 간에 데이터를 안전하게 공유 할 수 있는 오픈 프로토콜 입니다. 데이터를 복사하지 않고, 수신자에게 읽기 권한만 부여하여 원본 데이터에 직접 접근할 수 있게 합니다.
왜 Delta Sharing이 필요한가요?
전통적으로 조직 간 데이터 공유는 다음과 같은 방법으로 이루어졌습니다.
Delta Sharing은 이 문제를 해결합니다.
Delta Sharing의 구성 요소
공유 방법
Databricks-to-Databricks 공유
같은 Databricks 계정 내의 다른 워크스페이스 또는 다른 Databricks 계정과 공유합니다.Open Sharing (외부 수신자)
Databricks를 사용하지 않는 외부 조직에도 데이터를 공유할 수 있습니다.수신자 측에서 데이터 접근
Python (pandas)
Apache Spark
Power BI
Power BI에서도 Delta Sharing 커넥터를 통해 공유 데이터에 직접 연결할 수 있습니다.공유 관리
활용 시나리오
보안 고려사항
심화: Principal SA 레벨 운영 가이드
성능 특성
Delta Sharing은 수신자가 Parquet 파일을 직접 읽는 구조 이므로, 성능 특성을 정확히 이해해야 합니다.💡 성능 최적화 팁: 대용량 공유 시Z-ORDER또는LIQUID CLUSTERING이 적용된 테이블을 공유하면, 수신자의 쿼리가 Data Skipping 혜택을 극대화할 수 있습니다.
크로스 클라우드 및 리전 간 공유
Delta Sharing의 가장 강력한 사용 사례 중 하나는 클라우드 경계를 넘는 데이터 공유 입니다. 그러나 비용과 지연시간에 대한 명확한 이해가 필요합니다.⚠️ 비용 주의: 크로스 클라우드 공유 시 데이터 전송 비용은 제공자에게 청구 됩니다. 10TB 테이블을 AWS에서 Azure로 공유하면 매번 전체 읽기 시 약 $900의 egress 비용이 발생합니다. 파티션 필터링으로 전송량을 최소화하는 것이 필수입니다.데이터 레지던시 고려사항:
- EU GDPR, 한국 데이터 3법 등 규제에 따라 데이터가 특정 리전을 벗어나면 안 되는 경우가 있습니다
- Delta Sharing은 수신자가 원본 스토리지에서 직접 읽는 구조 이므로, 데이터가 물리적으로 이동하지 않습니다. 단, 수신자 측 캐싱/복사가 발생할 수 있으므로 수신자와의 계약에서 이를 명시해야 합니다
Credential 라이프사이클 관리
Open Sharing 방식의 토큰 관리는 운영의 핵심입니다.공유 모니터링 및 감사
Delta Sharing 접근은 Unity Catalog의 감사 로그와 시스템 테이블을 통해 추적할 수 있습니다.💡 운영 팁: 90일 이상 접근이 없는 수신자는 비활성화를 검토하세요. 불필요한 Recipient를 방치하면 보안 위험이 됩니다.
Open Sharing vs Databricks-to-Databricks 비교
두 공유 방식의 차이는 생각보다 큽니다. 요구사항에 따라 올바른 방식을 선택해야 합니다.💡 선택 가이드: 수신자가 Databricks를 사용한다면 반드시 Databricks-to-Databricks 방식을 사용하세요. Open Sharing은 수신자가 Databricks를 사용하지 않는 경우에만 권장합니다. 보안, 기능, 거버넌스 모든 면에서 D2D가 우월합니다.
실전 패턴
패턴 1: 데이터 제품 판매 (Data as a Product)
데이터 마켓플레이스 형태로 외부 고객에게 데이터를 판매하는 패턴입니다.패턴 2: 파트너 간 양방향 데이터 교환
본사-자회사, 또는 공급망 파트너 간 데이터를 교환하는 패턴입니다.⚠️ 양방향 공유 주의사항: 양쪽 모두 Provider이자 Recipient가 되므로, Share/Recipient 네이밍 컨벤션을 명확히 정의해야 합니다.{source}_{destination}_{domain}형식을 권장합니다 (예:hq_sub01_sales).