Update run.py
Browse files
run.py
CHANGED
@@ -112,9 +112,9 @@ def response(
|
|
112 |
do_sample=True,
|
113 |
seed=42,
|
114 |
)
|
115 |
-
|
116 |
results=collection.query(
|
117 |
-
query_texts=[
|
118 |
n_results=60,
|
119 |
#where={"source": "google-docs"}
|
120 |
#where_document={"$contains":"search_string"}
|
@@ -133,7 +133,7 @@ def response(
|
|
133 |
combination = [' '.join(triplets) for triplets in combination]
|
134 |
#print(str(prompt)+"\n\n"+str(combination))
|
135 |
if(len(results)>1):
|
136 |
-
addon="
|
137 |
system="Du bist ein deutschsprachiges KI-basiertes Studienberater Assistenzsystem, das zu jedem Anliegen möglichst geeignete Studieninformationen empfiehlt."+addon+"\n\nUser-Anliegen:"
|
138 |
formatted_prompt = format_prompt(system+"\n"+prompt,history)
|
139 |
stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
|
|
|
112 |
do_sample=True,
|
113 |
seed=42,
|
114 |
)
|
115 |
+
search_prompt = format_prompt(prompt,history)
|
116 |
results=collection.query(
|
117 |
+
query_texts=[search_prompt],
|
118 |
n_results=60,
|
119 |
#where={"source": "google-docs"}
|
120 |
#where_document={"$contains":"search_string"}
|
|
|
133 |
combination = [' '.join(triplets) for triplets in combination]
|
134 |
#print(str(prompt)+"\n\n"+str(combination))
|
135 |
if(len(results)>1):
|
136 |
+
addon="Bitte berücksichtige bei deiner Antwort ausschießlich folgende Auszüge aus unserer Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren, zu erwähnen oder aufzulisten:\n"+"\n".join(results)
|
137 |
system="Du bist ein deutschsprachiges KI-basiertes Studienberater Assistenzsystem, das zu jedem Anliegen möglichst geeignete Studieninformationen empfiehlt."+addon+"\n\nUser-Anliegen:"
|
138 |
formatted_prompt = format_prompt(system+"\n"+prompt,history)
|
139 |
stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
|