Update agent.py

agent.py

@@ -1,11 +1,13 @@
 import os
 import requests
 from huggingface_hub import hf_api
+import time
 
 # Cargar el token de Hugging Face desde el entorno
 HF_TOKEN = os.getenv("HF_TOKEN")
 MODEL_NAME = os.getenv("MODEL_NAME", "google/gemma-2b-it")
 print("HF_TOKEN desde agent.py:", HF_TOKEN[:10] if HF_TOKEN else "NO DEFINIDO")
+
 # Función para llamar al modelo y obtener respuesta
 def call_model(prompt):
     """
@@ -36,6 +38,34 @@ def call_model(prompt):
     except Exception as e:
         raise ValueError(f"Error al obtener respuesta del modelo: {str(e)}")
 
+# Función para esperar que el modelo esté listo
+def wait_for_model():
+    """
+    Espera hasta que el modelo esté completamente cargado y disponible para hacer solicitudes.
+    """
+    headers = {
+        "Authorization": f"Bearer {HF_TOKEN}",
+        "Content-Type": "application/json"
+    }
+
+    # Intentamos hacer un request a la API del modelo cada 10 segundos
+    while True:
+        try:
+            response = requests.get(
+                f"https://api-inference.huggingface.co/models/{MODEL_NAME}",
+                headers=headers,
+                timeout=30
+            )
+            # Si el modelo responde sin error, lo consideramos listo
+            if response.status_code == 200:
+                print(f"Modelo {MODEL_NAME} listo para recibir solicitudes.")
+                break
+            else:
+                print(f"Esperando que el modelo {MODEL_NAME} esté listo... (estado {response.status_code})")
+        except requests.exceptions.RequestException as e:
+            print(f"Error al verificar el estado del modelo: {e}")
+        time.sleep(10)  # Esperar 10 segundos antes de intentar nuevamente
+
 # Clase para representar la lógica del agente
 class Agente:
     def __init__(self):
@@ -62,10 +92,12 @@ def evaluar_preguntas(preguntas):
     agente = Agente()
     respuestas = []
 
+    # Esperar a que el modelo esté listo
+    wait_for_model()
+
     for pregunta in preguntas:
         print(f"Evaluando: {pregunta}")
         respuesta = agente.procesar_pregunta(pregunta)
         respuestas.append(respuesta)
 
     return respuestas
-