Streamlit & Gradio

[사용자 입력] → [전체 스크립트 재실행 (위→아래)] → [UI 갱신]

import streamlit as st
from databricks.sdk import WorkspaceClient

st.set_page_config(page_title="MLOps Agent", page_icon="🤖")
st.title("MLOps Agent 🤖")

# 사이드바: Agent 설정
with st.sidebar:
    st.header("설정")
    model_name = st.selectbox("모델", ["databricks-meta-llama-3-3-70b-instruct", "databricks-claude-sonnet-4"])
    temperature = st.slider("Temperature", 0.0, 1.0, 0.1)

# 대화 기록 초기화
if "messages" not in st.session_state:
    st.session_state.messages = []

# 기존 대화 표시 (리렌더링 시마다 실행)
for msg in st.session_state.messages:
    with st.chat_message(msg["role"]):
        st.markdown(msg["content"])

# 사용자 입력 처리
if prompt := st.chat_input("질문을 입력하세요"):
    # 사용자 메시지 저장 및 표시
    st.session_state.messages.append({"role": "user", "content": prompt})
    with st.chat_message("user"):
        st.markdown(prompt)

    # Agent 호출 (Databricks Model Serving 예시)
    with st.chat_message("assistant"):
        with st.spinner("분석 중..."):
            w = WorkspaceClient()
            response = w.serving_endpoints.query(
                name="mlops-agent-endpoint",
                messages=[{"role": m["role"], "content": m["content"]}
                         for m in st.session_state.messages]
            )
            result = response.choices[0].message.content
            st.markdown(result)

    # 어시스턴트 응답 저장
    st.session_state.messages.append({"role": "assistant", "content": result})

import streamlit as st

def stream_response(prompt):
    """Agent 스트리밍 응답 제너레이터"""
    w = WorkspaceClient()
    for chunk in w.serving_endpoints.query(
        name="agent-endpoint",
        messages=[{"role": "user", "content": prompt}],
        stream=True
    ):
        if chunk.choices[0].delta.content:
            yield chunk.choices[0].delta.content

# 스트리밍 표시
if prompt := st.chat_input("질문을 입력하세요"):
    with st.chat_message("assistant"):
        response = st.write_stream(stream_response(prompt))
    st.session_state.messages.append({"role": "assistant", "content": response})

import gradio as gr

def respond(message, history):
    """
    Agent 호출 함수
    Args:
        message: 현재 사용자 입력
        history: 대화 기록 [["user_msg", "bot_msg"], ...]
    """
    # Databricks Model Serving 호출
    from databricks.sdk import WorkspaceClient
    w = WorkspaceClient()

    # 대화 기록을 messages 형식으로 변환
    messages = []
    for user_msg, bot_msg in history:
        messages.append({"role": "user", "content": user_msg})
        messages.append({"role": "assistant", "content": bot_msg})
    messages.append({"role": "user", "content": message})

    response = w.serving_endpoints.query(
        name="predictive-maintenance-agent",
        messages=messages
    )
    return response.choices[0].message.content

demo = gr.ChatInterface(
    fn=respond,
    title="예지보전 Agent",
    description="설비 상태를 분석하고 유지보수를 권장하는 AI Agent입니다.",
    examples=[
        "모터 A-301의 진동 데이터가 정상인가요?",
        "지난 주 드리프트가 발생한 모델 목록을 보여주세요",
        "다음 유지보수 일정을 추천해주세요"
    ],
    theme="soft"
)

demo.launch(server_name="0.0.0.0", server_port=8080)

demo.launch(share=True)
# → "Running on public URL: https://xxxx.gradio.live" (72시간 유효)