Update app.py

app.py

@@ -4,10 +4,14 @@ import os
 
 app = FastAPI()
 
+# Встановлення директорії кешу
+cache_dir = os.path.expanduser("~/.cache/huggingface/transformers")
+os.environ["TRANSFORMERS_CACHE"] = cache_dir
+
 pipe = pipeline(
     "text-generation",
     model="google/gemma-3-1b-it",
-    token=os.environ["HF_TOKEN"],  # використовується з секрету
+    token=os.environ["HF_TOKEN"],
     device="cpu",
     max_new_tokens=256,
     temperature=0.7
@@ -18,4 +22,4 @@ async def generate(request: Request):
     data = await request.json()
     prompt = data.get("prompt", "")
     result = pipe(prompt)
-    return {"response": result[0]["generated_text"]}
+    return {"response": result[0]["generated_text"]}