Update app.py

app.py

@@ -146,6 +146,21 @@ def analyze_space(url: str, progress=gr.Progress()):
         print(traceback.format_exc())
         return f"오류가 발생했습니다: {str(e)}", "", None, ""
 
+def respond(message: str, chat_history: List[Dict[str, str]], system_message: str, max_tokens: int, temperature: float, top_p: float):
+    messages = [{"role": "system", "content": system_message}]
+    for chat in chat_history:
+        messages.append({"role": "user", "content": chat["role"] == "user"})
+        messages.append({"role": "assistant", "content": chat["role"] == "assistant"})
+    messages.append({"role": "user", "content": message})
+
+    try:
+        response = ""
+        for chunk in hf_client.chat_completion_stream(messages, max_tokens=max_tokens, temperature=temperature, top_p=top_p):
+            response += chunk.choices[0].delta.content or ""
+            yield response
+    except Exception as e:
+        yield f"응답 생성 중 오류 발생: {str(e)}"
+
 def create_ui():
     try:
         css = """
@@ -232,9 +247,7 @@ def create_ui():
                         top_p = gr.Slider(minimum=0, maximum=1, value=0.9, label="Top P")
                     
                     examples = [
-                        ["패션 코드 실행"],
-                        ["UHD 이미지 코드 실행"],
-                        ["MixGEN 코드 실행"],
+
                         ["상세한 사용 방법을 마치 화면을 보면서 설명하듯이 4000 토큰 이상 자세히 설명하라"],
                         ["FAQ 20건을 상세하게 작성하라. 4000토큰 이상 사용하라."],
                         ["사용 방법과 차별점, 특징, 강점을 중심으로 4000 토큰 이상 유튜브 영상 스크립트 형태로 작성하라"],