Spaces:
Running
Running
Commit
·
ca3380e
1
Parent(s):
ebe5014
Revert "Revert "load app""
Browse filesThis reverts commit ebe5014de4fa1e81aa09f487f77a7f86e51b7424.
main.py
CHANGED
@@ -25,7 +25,8 @@ def load_model(pretrained_model: str = "facebook/m2m100_1.2B", cache_dir: str =
|
|
25 |
model = M2M100ForConditionalGeneration.from_pretrained(pretrained_model, cache_dir=model_dir).to(device)
|
26 |
model.eval()
|
27 |
return tokenizer, model
|
28 |
-
|
|
|
29 |
|
30 |
@app.post("/translate")
|
31 |
async def translate(request: TranslationRequest):
|
|
|
25 |
model = M2M100ForConditionalGeneration.from_pretrained(pretrained_model, cache_dir=model_dir).to(device)
|
26 |
model.eval()
|
27 |
return tokenizer, model
|
28 |
+
# aparentemente temos um problema ao carregar o modelo então vou tentar carregar no start da aplicação para não dar time-out na request
|
29 |
+
load_model()
|
30 |
|
31 |
@app.post("/translate")
|
32 |
async def translate(request: TranslationRequest):
|