Multi-Agent 패턴

이 문서는 GenAI 개념 섹션의 일부입니다.

​

Single Agent vs Multi-Agent

​

Single Agent

• 장점: 단순, 디버깅 쉬움, 지연시간 낮음
• 단점: 복잡한 작업에서 정확도 저하, 도구 수 제한 (보통 10~15개 이상이면 성능 저하)
• 적합: FAQ 봇, 문서 검색, 단순 데이터 조회

​

Multi-Agent

• 장점: 역할 분담으로 정확도 향상, 확장 가능
• 단점: 복잡도 증가, 에이전트 간 통신 오버헤드, 디버깅 난이도 상승
• 적합: 복합 분석, 크로스 도메인 질의, 자동화 워크플로우

​

Multi-Agent 아키텍처 패턴

​

패턴 비교 요약

​

1. Supervisor 패턴

​

2. Swarm 패턴

사용자 요청 → [접수 Agent] ──handoff──→ [분석 Agent] ──handoff──→ [보고서 Agent] → 최종 응답
                                              │
                                         (필요시)
                                              │
                                        [데이터 Agent]

• Agent A가 작업 중 자신의 범위를 벗어나면 Agent B에게 전달
• 각 Agent가 자율적으로 다음 Agent를 결정
• OpenAI Agents SDK의 Handoff가 이 패턴의 대표 구현

​

3. 계층형 패턴

​

언제 Single Agent로 충분한가?

• 도구 수가 15개 미만인가?
• 단일 도메인(예: 고객 지원만, 데이터 분석만)인가?
• 평균 대화 턴이 5턴 이하인가?
• 병렬 실행이 필요한 독립 작업이 없는가?
• 서로 다른 LLM 모델이나 설정이 필요한 하위 작업이 없는가?

참고 실전 경험 법칙: 고객 PoC의 80% 이상은 Single Agent로 충분합니다. Multi-Agent를 너무 일찍 도입하면 개발 기간이 3배 이상 늘어나고, 디버깅 비용이 기하급수적으로 증가합니다.

​

Multi-Agent 통신 패턴 심화

​

Multi-Agent 디버깅의 현실

​

1. 비결정적 행동 (Non-deterministic Behavior)

• 대응: MLflow Tracing으로 모든 실행을 기록하고, 실패 케이스의 Trace를 수집하여 패턴을 분석합니다. temperature=0으로 설정하면 재현성이 높아지지만 다양성은 줄어듭니다.

​

2. 에이전트 간 핑퐁 (Agent Ping-Pong)

• 대응: 각 Agent의 역할 경계를 명확히 정의하고, handoff 횟수에 제한 을 두세요. “같은 Agent에게 2회 이상 핸드오프 금지” 규칙이 효과적입니다.

​

3. 상태 불일치 (State Inconsistency)

• 대응: 공유 상태를 사용하되, 각 Agent가 도구 호출 시 항상 최신 데이터를 조회하도록 설계합니다. 캐시 사용 시 TTL(Time-to-Live)을 짧게 설정하세요.

주의 MLflow Tracing 필수: Multi-Agent 시스템에서 Tracing 없이 디버깅하는 것은 불가능에 가깝습니다. 각 Agent의 입출력, Tool Call, LLM 추론을 모두 기록해야 문제의 근본 원인을 파악할 수 있습니다.

​

Multi-Agent 비용 폭발 주의

사용자 질문 1회
  → Supervisor LLM 호출 (1회)
    → Agent A LLM 호출 (1회) + Tool Call (2회) + 결과 해석 LLM (1회)
    → Agent B LLM 호출 (1회) + Tool Call (3회) + 결과 해석 LLM (1회)
  → Supervisor 결과 종합 LLM 호출 (1회)
= 총 LLM 호출 6회, Tool Call 5회

1. 토큰 예산 설정: 요청당 최대 토큰 사용량을 설정하고, 초과 시 가장 비용 효율적인 경로로 우회
2. 캐싱: 자주 반복되는 도구 호출 결과를 캐싱하여 LLM 호출 횟수 절감
3. 라우팅 최적화: Supervisor의 라우팅 정확도를 높여 불필요한 Agent 호출 방지
4. 모델 혼합: Supervisor는 고성능 모델(GPT-4o), Worker는 경량 모델(GPT-4o-mini)로 비용 절감