고급 기법

당신은 데이터 분석 에이전트입니다. 다음 형식으로 사고하고 행동하세요:

Thought: 현재 상황을 분석하고 다음 행동을 결정합니다
Action: 사용할 도구와 파라미터를 지정합니다
Observation: 도구 실행 결과를 확인합니다
... (반복) ...
Answer: 최종 답변을 제공합니다

사용 가능한 도구:
- query_sql(sql): SQL 쿼리 실행
- search_docs(query): 문서 검색
- calculate(expression): 수식 계산

사용자 질문: "지난달 대비 이번 달 매출 성장률은?"

Thought: 매출 성장률을 계산하려면 지난달과 이번 달의 매출을 각각 조회해야 합니다.
Action: query_sql("SELECT SUM(revenue) FROM sales WHERE month = '2025-02'")
Observation: 결과: 45억원
Thought: 이번 달 매출도 조회합니다.
Action: query_sql("SELECT SUM(revenue) FROM sales WHERE month = '2025-03'")
Observation: 결과: 52억원
Thought: 두 값으로 성장률을 계산합니다.
Action: calculate("(52 - 45) / 45 * 100")
Observation: 결과: 15.56%
Answer: 이번 달 매출은 52억원으로 지난달(45억원) 대비 15.6% 성장했습니다.

다음 문제에 대해 3가지 다른 접근법을 제시하세요.
각 접근법의 장단점을 평가하고, 가장 적합한 방법을 선택하여 상세히 진행하세요.

문제: "데이터 파이프라인의 처리 시간이 2배로 증가한 원인을 분석하세요"

동작 방식:
1. Temperature > 0으로 설정 (예: 0.7)
2. 같은 질문을 5회 생성
3. 결과: [A, A, B, A, C] → 다수결로 A 채택

장점: 단일 추론보다 정확도가 높음 (특히 수학, 논리 문제)
단점: API 호출 비용이 N배로 증가

다음 정보를 JSON 형식으로 추출하세요:
{"name": "이름", "company": "회사명", "role": "직책"}

입력: "Acme사 AI센터장 김철수입니다"

Step 1 — 정보 추출:
"다음 계약서에서 갱신일, 금액, 당사자를 추출하세요"
→ {"renewal_date": "2026-03-31", "amount": "1억원", "parties": ["A사", "B사"]}

Step 2 — 분석:
"다음 계약 정보를 분석하고, 갱신 30일 전 기준으로 주의사항을 정리하세요: {Step1 결과}"
→ "갱신일이 30일 이내입니다. 금액 재협상 필요..."

Step 3 — 보고서 작성:
"다음 분석 결과를 경영진 보고용 이메일 초안으로 작성하세요: {Step2 결과}"
→ 이메일 초안 생성

# Before (186 토큰)
"다음 고객 리뷰를 분석하여 주시기 바랍니다. 분석할 때에는 고객의 감정 상태가
긍정적인지 부정적인지 혹은 혼합적인지를 판단하여 주시고, 또한 리뷰에서 언급된
핵심적인 이슈들을 추출하여 주시기 바랍니다. 그리고 해당 이슈에 대한 적절한
대응 방안도 함께 제안하여 주시면 감사하겠습니다."

# After (62 토큰, 67% 절감)
"고객 리뷰 분석:
1. 감정: 긍정/부정/혼합
2. 핵심 이슈 추출
3. 대응 방안 제안"

# 정적 Few-shot — 항상 같은 예시
예시 1: [결제 관련 질문] → [결제 관련 답변]
예시 2: [배송 관련 질문] → [배송 관련 답변]
예시 3: [반품 관련 질문] → [반품 관련 답변]

실제 질문: "계정 비밀번호를 잊어버렸어요"
→ 예시와 전혀 관련 없는 주제 → Few-shot 효과 미미

# Dynamic Few-shot — 입력에 맞는 예시를 벡터 검색으로 선택
사용자 입력: "계정 비밀번호를 잊어버렸어요"
→ Vector Search로 가장 유사한 예시 3개 검색:
  예시 1: [비밀번호 재설정 질문] → [재설정 안내]
  예시 2: [계정 잠금 질문] → [잠금 해제 안내]
  예시 3: [이메일 변경 질문] → [변경 절차 안내]
→ 관련 예시로 Few-shot 효과 극대화

# Step 1: 프롬프트 생성 요청
"다음 작업을 수행하는 최적의 프롬프트를 작성해주세요:
- 작업: 고객 이메일을 카테고리별로 분류
- 카테고리: 결제, 배송, 반품, 기술지원, 기타
- 요구사항: JSON 출력, 신뢰도 점수 포함"
→ LLM이 프롬프트 초안을 생성

# Step 2: 프롬프트 평가 요청
"위에서 생성한 프롬프트를 다음 기준으로 평가하고 개선점을 제시해주세요:
- 명확성 (1~10)
- 완전성 (1~10)
- 엣지 케이스 처리 (1~10)"
→ LLM이 자체 프롬프트를 비평

# Step 3: 개선된 프롬프트 생성
"평가 결과를 반영하여 개선된 최종 프롬프트를 작성해주세요."
→ 자가 개선된 프롬프트 완성

일반 호출:
  요청 1: [System Prompt 2000토큰] + [User 100토큰] → 2100토큰 과금
  요청 2: [System Prompt 2000토큰] + [User 150토큰] → 2150토큰 과금
  요청 3: [System Prompt 2000토큰] + [User 120토큰] → 2120토큰 과금
  총 입력 토큰: 6,370

Prompt Caching 적용:
  요청 1: [System Prompt 2000토큰(캐시 저장)] + [User 100토큰] → 2100토큰 과금
  요청 2: [System Prompt 캐시 히트(90% 할인)] + [User 150토큰] → 350토큰 과금
  요청 3: [System Prompt 캐시 히트(90% 할인)] + [User 120토큰] → 320토큰 과금
  총 입력 토큰 비용: 약 2,770 (56% 절감)