Skip to main content
이 문서는 GenAI 개념 섹션의 일부입니다.

동일 질문으로 비교하는 3가지 기법

다음 동일한 질문에 세 가지 기법을 적용하여 차이를 확인합니다. 질문: “고객 리뷰: ‘배송은 빨랐지만 포장이 엉망이고 제품에 스크래치가 있었어요. 환불 요청합니다.’ 이 리뷰를 분석하세요.”

Zero-shot Prompting

예시 없이 직접 지시합니다. 간단한 작업에 효과적입니다.
출력: “감정: 부정, 핵심 이슈: 포장 불량, 제품 손상”

Few-shot Prompting

입출력 예시를 제공하여 원하는 형식과 패턴 을 학습시킵니다.
출력: {"sentiment": "부정", "issues": ["포장 불량", "제품 손상"], "action": "환불", "priority": "high"}

Chain-of-Thought (CoT)

단계적 추론을 유도하여 분석의 깊이 를 높입니다.
출력: 각 단계별로 상세 분석이 포함된 구조화된 응답
성공 : “단계별로 생각해보세요 (Let’s think step by step)“를 추가하는 것만으로도 추론 정확도가 크게 향상됩니다. 이를 “Zero-shot CoT”라고 합니다.

System Prompt 설계 5가지 패턴

System Prompt는 모델의 역할, 행동 규칙, 제약 조건을 정의합니다. 다음 5가지 패턴을 조합하여 강력한 System Prompt를 설계할 수 있습니다.

패턴 1: 역할 정의 (Role Definition)

효과: 모델이 특정 전문가의 관점에서 답변하여 일관성과 전문성이 향상됩니다.

패턴 2: 제약 조건 (Constraints)

효과: 환각(Hallucination)을 줄이고, 응답 범위를 통제합니다.

패턴 3: 출력 형식 (Output Format)

효과: 파싱 가능한 구조화된 출력을 안정적으로 생성합니다.

패턴 4: 예시 제공 (Few-shot in System)

효과: 원하는 응답 스타일과 수준을 구체적으로 보여줍니다.

패턴 5: Chain of Thought 유도

효과: 복잡한 추론이 필요한 질문에서 정확도가 향상됩니다.
참고 실무 팁: 5가지 패턴을 모두 사용할 필요는 없습니다. 역할 정의 + 제약 조건은 거의 항상 포함하고, 나머지는 사용 사례에 따라 조합하세요.

실전 System Prompt 템플릿

위 5가지 패턴을 실제 프로덕션에서 어떻게 조합하는지 3가지 대표적 사용 사례의 전문 템플릿 을 공유합니다. 이 템플릿들은 실제 고객 프로젝트에서 수백만 건의 요청을 처리하며 검증된 것입니다.

템플릿 1: RAG 챗봇용 System Prompt

템플릿 2: 데이터 분석 Agent용 System Prompt

템플릿 3: 고객 지원 챗봇용 System Prompt

성공 활용 팁: 위 템플릿을 그대로 복사하지 말고, [회사명], {context} 등의 변수를 자사 환경에 맞게 수정하세요. MLflow Prompt Registry에 등록하면 버전 관리와 A/B 테스트가 가능합니다.