fixe

app.py

@@ -48,9 +48,15 @@ async def home():
     return 'STN BIG DATA'
 
 # Charger le modèle et le tokenizer
-model_name = "THUDM/longwriter-glm4-9b"
-tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
-model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True, device_map="auto")
+# model_name = "THUDM/longwriter-glm4-9b"
+# tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
+# model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True, device_map="auto")
+
+# Charger le modèle et le tokenizer
+model = AutoModelForCausalLM.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True, device_map='auto')
+tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm2-6b", trust_remote_code=True)
+
+# Le reste de votre code reste le même
 
 # Prompt par défaut
 default_prompt = """Vous êtes un assistant expert en résumé de plaintes. Votre tâche est de résumer la plainte fournie de manière concise et professionnelle, en incluant les points clés suivants :
@@ -79,7 +85,7 @@ async def summarize_complaint(input: ComplaintInput):
                 max_new_tokens=150,
                 num_return_sequences=1,
                 no_repeat_ngram_size=2,
-                temperature=0.7
+                temperature=0.7 
             )
         
         summary = tokenizer.decode(outputs[0], skip_special_tokens=True)