Model Serving

학습된 모델을 실시간 추론 엔드포인트로 배포하는 방법을 학습합니다.

​

학습 목표

• Model Serving 엔드포인트의 종류와 선택 기준
• Foundation Model API를 통한 LLM 활용
• 커스텀 모델 배포 (PyFunc, Transformer)
• 엔드포인트 모니터링과 A/B 테스트

​

문서 목록

​

참고 문서

• Databricks: Model Serving