Update app.py

app.py

@@ -10,7 +10,7 @@ import warnings
 warnings.filterwarnings("ignore", category=UserWarning)
 
 # model_name = "AI-Sweden-Models/gpt-sw3-126m-instruct"
-model_name = "AI-Sweden-Models/gpt-sw3-126m-instruct"
+model_name = "AI-Sweden-Models/gpt-sw3-356m-instruct"
 
 
 device = "cuda:0" if torch.cuda.is_available() else "cpu"
@@ -78,7 +78,7 @@ class StopOnTokenCriteria(StoppingCriteria):
 stop_on_token_criteria = StopOnTokenCriteria(stop_token_id=tokenizer.bos_token_id)
 
 st.title("Paralegal Assistant")
-st.header("RAG featuring föräldrabalken of Sweden's law.")
+st.caption("RAG: föräldrabalken")
 
 # Initialize chat history
 if "messages" not in st.session_state:
@@ -102,11 +102,10 @@ if prompt := st.chat_input("Skriv din fråga..."):
         namespace="ns-parent-balk",
     )
     llmprompt = (
-        "Besvara följande fråga på ett sakligt, kortfattat och formellt vis: "
-        + prompt
-        + "\n"
-        + "Använd följande text som referens när du besvarar frågan och hänvisa fakta i texten: \n"
+        "Följande stycke är en del av lagen: "
         + query
+        +"Referera till lagen och besvara följande fråga på ett sakligt, kortfattat och formellt vis: "
+        + prompt
     )
     llmprompt = generate_prompt(llmprompt=llmprompt)