Skip to main content
이 문서는 머신러닝 섹션의 일부입니다.

왜 커스텀 모델 배포가 필요한가?

Databricks Model Serving은 등록된 MLflow 모델을 REST API 엔드포인트로 배포하는 관리형 서비스입니다. Foundation Model API (FMAPI) 가 제공하는 사전 학습 모델(llama, mixtral 등)로 충분하지 않은 경우, 커스텀 모델 배포가 필요합니다.

Foundation Model API vs. 커스텀 모델 배포

커스텀 배포가 필요한 경우

모델 서빙 엔드포인트 (Model Serving Endpoint) 란 학습된 ML 모델을 REST API로 노출하여, 애플리케이션에서 실시간으로 예측을 요청할 수 있게 해주는 서비스입니다. Databricks에서는 인프라 관리, 오토스케일링, 모니터링을 자동으로 처리합니다.

배포 가능한 모델 유형


모델 시그니처 정의 (Model Signature)

모델 시그니처 (Model Signature) 는 모델의 입력/출력 스키마를 명시적으로 정의합니다. 시그니처가 있으면 서빙 시 입력 데이터 유효성 검사가 자동으로 수행되어 오류를 조기에 감지할 수 있습니다.
시그니처 없이 배포하면 입력 형식 오류가 서빙 환경에서 런타임에 발생합니다. input_example과 함께 signature를 항상 명시하는 것을 권장합니다.

PyFunc 커스텀 모델 작성법

mlflow.pyfunc.PythonModel을 상속하면 load_context()predict() 메서드를 직접 구현하여 자유로운 추론 로직을 만들 수 있습니다.

기본 구조

커스텀 모델 저장 및 등록

의존성 관리 주의: conda_env 또는 pip_requirements를 명시하지 않으면, 로컬 환경의 패키지 버전이 서빙 환경과 달라 오류가 발생할 수 있습니다. 반드시 학습에 사용한 주요 라이브러리 버전을 명시하십시오.