Update app.py

app.py

@@ -35,15 +35,16 @@ def respond(
 
     # Gửi yêu cầu tới mô hình và nhận kết quả
     try:
-        for message in client.chat_completion(
+        for chunk in client.chat_completion(
             model="HuggingFaceH4/zephyr-7b-beta",
             messages=messages,
             max_tokens=max_tokens,
             temperature=temperature,
             top_p=top_p,
+            stream=True
         ):
             # Tiến hành nhận phản hồi từ mô hình
-            token = message["choices"][0]["delta"]["content"]
+            token = chunk["choices"][0]["delta"]["content"]
             response += token
 
     except Exception as e: