Update run.py

run.py

@@ -2,7 +2,7 @@
 # Title:  Gradio Interface to LLM-chatbot with memory RAG on premises 
 # Author: Andreas Fischer
 # Date:   October 15th, 2023
-# Last update: February 22st, 2024
+# Last update: February 25st, 2024
 ##########################################################################################
 
 #https://github.com/abetlen/llama-cpp-python/issues/306
@@ -170,6 +170,7 @@ def extend_prompt(message="", history=None, system=None, RAGAddon=None, system2=
     template1="[INST] {message} [/INST]"
     template2=" {response}</s>"
   if("openchat-3.5" in modelPath): #https://huggingface.co/TheBloke/openchat-3.5-0106-GGUF
+    startOfString="<s>
     template0="GPT4 Correct User: {system}<|end_of_turn|>GPT4 Correct Assistant: Okay.<|end_of_turn|>"
     template1="GPT4 Correct User: {message}<|end_of_turn|>GPT4 Correct Assistant: "
     template2="{response}<|end_of_turn|>"
@@ -234,9 +235,9 @@ def response(message, history,customSysPrompt,settings):
     rag += "Mit Blick auf den aktuellen Stand der Session erinnerst du dich insb. an folgende Episode:\n"
     rag += bestMatch 
     rag += "\n\nIm Folgenden siehst du den aktuellen Stand der Session."
-    rag += "Bitte beschreibe kurz den weiteren Verlauf bis zur nächsten Handlung des Spielers!"
+    if (noAdditions==False): rag += "Bitte beschreibe kurz den weiteren Verlauf bis zur nächsten Handlung des Spielers!"
   else:
-    system += "\nBitte beschreibe kurz den weiteren Verlauf bis zur nächsten Handlung des Spielers!"
+    if (noAdditions==False): system += "\nBitte beschreibe kurz den weiteren Verlauf bis zur nächsten Handlung des Spielers!"
   system2=None # system2 can be used as fictive first words of the AI, which are not displayed or stored
   #print("RAG: "+rag)  
   #print("System: "+system+"\n\nMessage: "+message)