Update app.py

app.py

@@ -1,16 +1,26 @@
-import gradio as gr
 import torch
-from transformers import AutoModelForCausalLM, AutoTokenizer
+from transformers import AutoTokenizer, AutoModelForCausalLM
+from fastapi import FastAPI
+from pydantic import BaseModel
 
-# Charger ton modèle fine-tuné depuis Hugging Face
+# Charger le modèle fine-tuné
 MODEL_NAME = "fatmata/psybot"
 tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
 model = AutoModelForCausalLM.from_pretrained(MODEL_NAME)
 
-# Fonction pour générer une réponse
+print("✅ Modèle et tokenizer chargés avec succès !")  # Vérification du chargement
+
+# Définir l'API avec FastAPI
+app = FastAPI()
+
+class UserInput(BaseModel):
+    text: str
+
 def generate_response(user_input):
     """ Génère une réponse du chatbot PsyBot """
     prompt = f"<|startoftext|><|user|> {user_input} <|bot|>"
+    print(f"🔹 Prompt envoyé au modèle : {prompt}")  # Debugging
+    
     inputs = tokenizer(prompt, return_tensors="pt").input_ids.to(model.device)
     
     with torch.no_grad():
@@ -25,22 +35,16 @@ def generate_response(user_input):
             top_p=0.9,
             repetition_penalty=1.2
         )
-    
+
     response = tokenizer.decode(output[0], skip_special_tokens=True)
+    print(f"🔹 Réponse brute du modèle : {response}")  # Debugging
 
     if "<|bot|>" in response:
         response = response.split("<|bot|>")[-1].strip()
     
     return response
 
-# Interface Gradio
-iface = gr.Interface(
-    fn=generate_response,  # Fonction qui génère la réponse
-    inputs="text",         # Champ d'entrée texte
-    outputs="text",        # Champ de sortie texte
-    title="PsyBot - Chatbot Psychologue",  
-    description="Posez vos questions et obtenez une réponse de PsyBot."
-)
-
-# Lancer l'application
-iface.launch(server_name="0.0.0.0", server_port=7860)
+@app.post("/generate/")
+def generate(user_input: UserInput):
+    response = generate_response(user_input.text)
+    return {"response": response}