Update app.py

app.py

@@ -25,15 +25,25 @@ if not os.path.exists(persist_directory):
 else:
     vectordb = Chroma(persist_directory=persist_directory, embedding_function=embedding_function)
 
-client = InferenceClient("google/flan-t5-base", token=os.getenv("HUGGINGFACEHUB_API_TOKEN"))
+client = InferenceClient("google/flan-t5-small", token=os.getenv("HUGGINGFACEHUB_API_TOKEN"))
 
 ranker = Reranker("answerdotai/answerai-colbert-small-v1", model_type='colbert')
 
 def generate_text(context, query):
-    inputs = f"Contexto proporcionado: {context}\nPregunta: {query}\nResponde de manera clara y precisa sobre el tema relacionado con la constitución española."
-    response = client.text_generation(prompt=inputs)
-    print(response)
-    return response
+    prompt = f"""
+        Contesta la siguiente pregunta basándote solo en el contexto proporcionado. 
+        Si no puedes encontrar la respuesta en el contexto, indica que no tienes suficiente información.
+        
+        Contexto:
+        {context}
+        
+        Pregunta:
+        {query}
+        
+        Respuesta:
+        """
+    response = client.text_generation(prompt=prompt, max_new_tokens=200)
+    return response.strip()
     
 def test_rag_reranking(query, ranker):
     print(f"\n🔍 Pregunta recibida: {query}")