Skip to main content
이 문서는 Unity Catalog 섹션의 일부입니다.

개념

💡 Delta Sharing 은 조직 간에 데이터를 안전하게 공유 할 수 있는 오픈 프로토콜 입니다. 데이터를 복사하지 않고, 수신자에게 읽기 권한만 부여하여 원본 데이터에 직접 접근할 수 있게 합니다.

왜 Delta Sharing이 필요한가요?

전통적으로 조직 간 데이터 공유는 다음과 같은 방법으로 이루어졌습니다. Delta Sharing은 이 문제를 해결합니다.

Delta Sharing의 구성 요소


공유 방법

Databricks-to-Databricks 공유

같은 Databricks 계정 내의 다른 워크스페이스 또는 다른 Databricks 계정과 공유합니다.

Open Sharing (외부 수신자)

Databricks를 사용하지 않는 외부 조직에도 데이터를 공유할 수 있습니다.
수신자는 활성화 링크를 통해 크레덴셜 파일 을 다운로드하고, 이를 사용하여 데이터에 접근합니다.

수신자 측에서 데이터 접근

Python (pandas)

Apache Spark

Power BI

Power BI에서도 Delta Sharing 커넥터를 통해 공유 데이터에 직접 연결할 수 있습니다.

공유 관리


활용 시나리오


보안 고려사항


심화: Principal SA 레벨 운영 가이드

성능 특성

Delta Sharing은 수신자가 Parquet 파일을 직접 읽는 구조 이므로, 성능 특성을 정확히 이해해야 합니다.
💡 성능 최적화 팁: 대용량 공유 시 Z-ORDER 또는 LIQUID CLUSTERING이 적용된 테이블을 공유하면, 수신자의 쿼리가 Data Skipping 혜택을 극대화할 수 있습니다.

크로스 클라우드 및 리전 간 공유

Delta Sharing의 가장 강력한 사용 사례 중 하나는 클라우드 경계를 넘는 데이터 공유 입니다. 그러나 비용과 지연시간에 대한 명확한 이해가 필요합니다.
⚠️ 비용 주의: 크로스 클라우드 공유 시 데이터 전송 비용은 제공자에게 청구 됩니다. 10TB 테이블을 AWS에서 Azure로 공유하면 매번 전체 읽기 시 약 $900의 egress 비용이 발생합니다. 파티션 필터링으로 전송량을 최소화하는 것이 필수입니다.
데이터 레지던시 고려사항:
  • EU GDPR, 한국 데이터 3법 등 규제에 따라 데이터가 특정 리전을 벗어나면 안 되는 경우가 있습니다
  • Delta Sharing은 수신자가 원본 스토리지에서 직접 읽는 구조 이므로, 데이터가 물리적으로 이동하지 않습니다. 단, 수신자 측 캐싱/복사가 발생할 수 있으므로 수신자와의 계약에서 이를 명시해야 합니다

Credential 라이프사이클 관리

Open Sharing 방식의 토큰 관리는 운영의 핵심입니다.

공유 모니터링 및 감사

Delta Sharing 접근은 Unity Catalog의 감사 로그와 시스템 테이블을 통해 추적할 수 있습니다.
💡 운영 팁: 90일 이상 접근이 없는 수신자는 비활성화를 검토하세요. 불필요한 Recipient를 방치하면 보안 위험이 됩니다.

Open Sharing vs Databricks-to-Databricks 비교

두 공유 방식의 차이는 생각보다 큽니다. 요구사항에 따라 올바른 방식을 선택해야 합니다.
💡 선택 가이드: 수신자가 Databricks를 사용한다면 반드시 Databricks-to-Databricks 방식을 사용하세요. Open Sharing은 수신자가 Databricks를 사용하지 않는 경우에만 권장합니다. 보안, 기능, 거버넌스 모든 면에서 D2D가 우월합니다.

실전 패턴

패턴 1: 데이터 제품 판매 (Data as a Product)

데이터 마켓플레이스 형태로 외부 고객에게 데이터를 판매하는 패턴입니다.

패턴 2: 파트너 간 양방향 데이터 교환

본사-자회사, 또는 공급망 파트너 간 데이터를 교환하는 패턴입니다.
⚠️ 양방향 공유 주의사항: 양쪽 모두 Provider이자 Recipient가 되므로, Share/Recipient 네이밍 컨벤션을 명확히 정의해야 합니다. {source}_{destination}_{domain} 형식을 권장합니다 (예: hq_sub01_sales).

패턴 3: 규제 기관 보고

금융감독원, 국세청 등 규제 기관에 데이터를 안전하게 공유하는 패턴입니다.

정리


참고 링크