fatmata commited on
Commit
a10a707
·
verified ·
1 Parent(s): a3db5d7

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -5,13 +5,13 @@ import torch
5
 
6
  app = FastAPI()
7
 
8
- # Définir un dossier cache accessible pour éviter les erreurs de permission
9
  os.environ["TRANSFORMERS_CACHE"] = "/tmp"
10
 
11
  # Charger le modèle et le tokenizer depuis Hugging Face avec cache local
12
  MODEL_NAME = "fatmata/psybot"
13
- local_dir = "/app/model" # Dossier pour stocker le modèle
14
- os.makedirs(local_dir, exist_ok=True)
15
 
16
  tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, cache_dir=local_dir)
17
  model = AutoModelForCausalLM.from_pretrained(MODEL_NAME, cache_dir=local_dir, torch_dtype=torch.float32)
 
5
 
6
  app = FastAPI()
7
 
8
+ # Définir un dossier cache accessible
9
  os.environ["TRANSFORMERS_CACHE"] = "/tmp"
10
 
11
  # Charger le modèle et le tokenizer depuis Hugging Face avec cache local
12
  MODEL_NAME = "fatmata/psybot"
13
+ local_dir = "/tmp/model" # Changer le dossier vers /tmp/model
14
+ os.makedirs(local_dir, exist_ok=True) # Crée le dossier si nécessaire
15
 
16
  tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, cache_dir=local_dir)
17
  model = AutoModelForCausalLM.from_pretrained(MODEL_NAME, cache_dir=local_dir, torch_dtype=torch.float32)