전체 관찰 계층은 Agent Observability 개요를 먼저 참고하세요. 저장 방식 선택은 Trace 저장 페이지에서 다룹니다.
Trace와 Span
MLflow Tracing은 Agent 실행을 계층 구조로 기록합니다. 하나의 Agent 요청은 root trace가 되고, 그 안에서 일어나는 개별 작업은 child span으로 남습니다. 검색, LLM 호출, tool 실행이 각각 하나의 span이 되고, 서로 부모-자식 관계를 이루며 트리를 형성합니다.span에 담기는 정보
각 span은 다음 정보를 담습니다.- 입력·출력
- 시작·종료 시간과 latency
- LLM prompt/response
- tool 이름과 인자
- 검색 문서와 metadata
- model 이름
- token usage
- exception과 상태
- session/user 정보
span type
MLflow span schema는 OpenTelemetry와 호환됩니다. span은 다음 type을 가질 수 있습니다.
이 외에
PARSER, RERANKER, UNKNOWN type도 있습니다.
자동 계측 (autolog)
지원 라이브러리는 한 줄로 계측이 켜집니다.수동 계측
프레임워크를 쓰지 않거나 커스텀 로직을 추적하려면@mlflow.trace 데코레이터로 함수를 감쌉니다. span_type으로 span 종류를 지정합니다.
mlflow.start_span()을 직접 사용합니다.