Update app.py

app.py

@@ -55,10 +55,8 @@ def generate_text(prompt, context, max_length=2100):
   max_new_tokens=max_length
   generation_config = GenerationConfig(
                 max_new_tokens=max_new_tokens,
-                temperature=0.32,
-                #top_p=0.9,
-                top_k=50, # 45
-                repetition_penalty=1.04,  #1.1
+                temperature=0.32, #top_p=0.9, top_k=50, # 45
+                repetition_penalty=1.3, # 1.04,  #1.1
                 do_sample=True,
             )
   outputs = model.generate(generation_config=generation_config, input_ids=inputs, stopping_criteria=stopping_criteria_list,)
@@ -66,7 +64,7 @@ def generate_text(prompt, context, max_length=2100):
 
 def mostrar_respuesta(pregunta, contexto):
     try:
-      res= generate_text(pregunta, contexto, max_length=500)
+      res= generate_text(pregunta, contexto, max_length=700)
       return str(res)
     except Exception as e:
       return str(e)
@@ -76,7 +74,7 @@ mis_ejemplos = [
     ["¿Dime el valor nutricional de la tortilla de patatas?", "Cocinero español"],
     ["¿Dime el valor nutricional del ceviche?", "Cocinero peruano"],
     ["¿Dime el valor nutricional de los frijoles?", "Cocinero de México"],
-    ["¿Dime el valor nutricional de la tortilla de patatatas?", "Cocinero español"],
+    ["¿Dime el valor nutricional de la tortilla de patatas?", "Cocinero español"],
     
 ]