init system message

app.py

@@ -121,12 +121,13 @@ def generate_response(query, context, prompts, max_tokens, temperature, top_p, g
         <|im_end|>
         <|im_start|>assistant"""
 
+    system_message = system_message_products
+    
     if "rezept" in query.lower() or "gericht" in query.lower():
         system_message = system_message_recipes
     elif "bestellung" in query.lower() or "order" in query.lower():
         system_message = system_message_support
-    else:
-        system_message = system_message_products
+        
 
     print("Prompt: ", system_message)
 
@@ -164,15 +165,14 @@ def respond(
     top_p,
 ):  
     generator = get_model()
-    if system_message == None: 
-        system_message = f"""<|im_start|>system Rolle: Du bist ein KI-Assistent der die vom Kunden formuliert Frage in Stichworte verwandelt die für eine Vektorsuche verwendet werden.
-            Oberstes Ziel: Suche Schlüsselbegriffe aus der Frage heraus und gebe diese als Hauptbegriff aus. Suche zusätzlich ähnliche Begriffe aus.
-            Meta-Anweisung: Wenn nach Produkten beziehungsweise Gewürzen gefragt wird, suche ähnliche Eigenschaften. Wenn nach einem Rezept gefragt ist, versuche die Küche beziehungsweise regionale Abstammung herauszufinden und als Schlüsselbegriff ausgeben. Gebe die vermutete Abstammung wie folgt aus: "Küche: ''". Du bekommst maximal 5 vorherige Fragen und Antworten aus dem Gespräch als Kontext. Wenn du keine exakten antworten geben kannst, geb nur Schlüsselbegriffe aus der Frage und den vorherigen wieder. Antworte in maximal 3 Stichpunkten und gebe keine Beschreibung.
-            <|im_end|>
-            <|im_start|>user
-              Frage: {query}
-            <|im_end|>
-            <|im_start|>assistant"""
+    system_message = f"""<|im_start|>system Rolle: Du bist ein KI-Assistent der die vom Kunden formuliert Frage in Stichworte verwandelt die für eine Vektorsuche verwendet werden.
+        Oberstes Ziel: Suche Schlüsselbegriffe aus der Frage heraus und gebe diese als Hauptbegriff aus. Suche zusätzlich ähnliche Begriffe aus.
+        Meta-Anweisung: Wenn nach Produkten beziehungsweise Gewürzen gefragt wird, suche ähnliche Eigenschaften. Wenn nach einem Rezept gefragt ist, versuche die Küche beziehungsweise regionale Abstammung herauszufinden und als Schlüsselbegriff ausgeben. Gebe die vermutete Abstammung wie folgt aus: "Küche: ''". Du bekommst maximal 5 vorherige Fragen und Antworten aus dem Gespräch als Kontext. Wenn du keine exakten antworten geben kannst, geb nur Schlüsselbegriffe aus der Frage und den vorherigen wieder. Antworte in maximal 3 Stichpunkten und gebe keine Beschreibung.
+        <|im_end|>
+        <|im_start|>user
+            Frage: {query}
+        <|im_end|>
+        <|im_start|>assistant"""
     refined_context = generator[1](system_message, do_sample=True, padding=True, truncation=True, top_p=0.95, max_new_tokens=150)
     # Retrieve relevant context from Qdrant
     if "rezept" in query.lower() or "gericht" in query.lower():