Update app.py

app.py

@@ -1,52 +1,70 @@
 import gradio as gr
 import logging
+from transformers import pipeline
 from huggingface_hub import InferenceClient
-from google_trans_new import google_translator
-
-# Khởi tạo client HF và Google Translator
-client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
-translator = google_translator()  # googletrans
 
 logging.basicConfig(level=logging.INFO)
 
+# 1) Khởi tạo pipelines dịch
+vi2en = pipeline("translation", model="Helsinki-NLP/opus-mt-vi-en")
+en2vi = pipeline("translation", model="Helsinki-NLP/opus-mt-en-vi")
+
+# 2) Khởi tạo client chat
+client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+
 SYSTEM_MSG = """
 You are a professional speaking AI assistant.
 Always output in perfect English that is translateable to Vietnamese that is correct spelling, punctuation and grammar.
 """
 
+def translate_vi2en(text: str) -> str:
+    # Chia nhỏ nếu quá dài, pipeline tự handle batch
+    res = vi2en(text, max_length=512)
+    return res[0]["translation_text"]
+
+def translate_en2vi(text: str) -> str:
+    res = en2vi(text, max_length=512)
+    return res[0]["translation_text"]
+
 def respond(message, history):
-    # Build system + user messages
-    messages = [{"role": "system", "content": SYSTEM_MSG}]
-    # Dịch user sang Anh
-    message_en = translator.translate(message, lang_tgt='en')
-    messages.append({"role": "user", "content": message_en})
-
-    # (Nếu có history muốn giữ, bạn có thể dịch và append tương tự ở đây)
-
-    # Gọi chat_completion
-    try:
-        response = ""
-        for chunk in client.chat_completion(
-            model="HuggingFaceH4/zephyr-7b-beta",
-            messages=messages,
-            max_tokens=2048,
-            temperature=0.0,
-            top_p=0.9,
-            stream=True
-        ):
-            response += chunk.choices[0].delta.content
-    except Exception as e:
-        return f"Error: {e}"
-
-    # Dịch ngược sang tiếng Việt
-    answer_vi  = translator.translate(response, lang_tgt='vi')
-    logging.info(f"Bot (EN): {response}")
-    logging.info(f"Bot (VI): {answer_vi}")
-
-    return answer_vi
-
-# Gradio UI
-demo = gr.ChatInterface(fn=respond, theme="soft")
+    # 1) Dịch sang Anh
+    message_en = translate_vi2en(message)
+    
+    # 2) Build messages
+    msgs = [{"role": "system",    "content": SYSTEM_MSG},
+           {"role": "user",      "content": message_en}]
+    # Nếu bạn muốn context, bạn có thể append history đã dịch ở đây...
+    
+    # 3) Gọi Hugging Face chat
+    response = ""
+    for chunk in client.chat_completion(
+        model="HuggingFaceH4/zephyr-7b-beta",
+        messages=msgs,
+        max_tokens=128,
+        temperature=0.0,
+        top_p=0.9,
+        stream=True,
+    ):
+        response += chunk.choices[0].delta.content
+    
+    logging.info("Response (EN): %s", response)
+    
+    # 4) Dịch ngược về Việt
+    answer_vi = translate_en2vi(response)
+    logging.info("Response (VI): %s", answer_vi)
+    
+    # 5) Cập nhật history và trả về
+    history.append((message, answer_vi))
+    return "", history
+
+# 6) Gradio UI
+with gr.Blocks(theme="soft") as demo:
+    gr.Markdown("# 🤖 Trợ lý AI Tiếng Việt (HF Translation)")
+    chatbot = gr.Chatbot()
+    txt     = gr.Textbox(placeholder="Nhập câu hỏi của bạn...")
+    clear   = gr.Button("🧹 Xóa trò chuyện")
+    txt.submit(respond, [txt, chatbot], [txt, chatbot])
+    clear.click(lambda: ([], ""), None, [chatbot, txt])
 
 if __name__ == "__main__":
     demo.launch()