MTNQLN commited on
Commit
6f7ae19
·
verified ·
1 Parent(s): 20e007c

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -10,8 +10,8 @@ print(os.getenv('API_KEY'))
10
 
11
 
12
  # Charger le modèle et le tokenizer
13
- model_name = "mistralai/mathstral-7B-v0.1" # Remplacez par le nom exact du modèle Mathstral
14
- tokenizer = AutoTokenizer.from_pretrained(model_name)
15
 
16
  # Charger le modèle avec quantification dynamique
17
  model = AutoModelForCausalLM.from_pretrained(
 
10
 
11
 
12
  # Charger le modèle et le tokenizer
13
+ model_name = "MTNQLN/Mathstral7B-4bits" # Remplacez par le nom exact du modèle Mathstral
14
+ tokenizer = AutoTokenizer.from_pretrained(mistralai/mathstral-7B-v0.1)
15
 
16
  # Charger le modèle avec quantification dynamique
17
  model = AutoModelForCausalLM.from_pretrained(