Update main.py

main.py

@@ -77,18 +77,14 @@ async def on_action(action):
     ).send()
     await action.remove()
 
-@cl.step(type="retrieval")
 def retriever_to_cache():
     os.environ['PINECONE_API_KEY'] = os.environ['PINECONE_API_KEY']
     os.environ['PINECONE_ENVIRONMENT'] = "us-west4-gcp-free"
     index_name = os.environ['PINECONE_INDEX_NAME']
-    time.sleep(5)
     embeddings = HuggingFaceEmbeddings()
-    time.sleep(5)
     vectorstore = PineconeVectorStore(
         index_name=index_name, embedding=embeddings
     )
-    time.sleep(10)
     retriever = vectorstore.as_retriever(search_type="similarity_score_threshold", search_kwargs={"score_threshold": .7, "k": 30,"filter": {'categorie': {'$eq': 'OF'}}})
     return retriever
 
@@ -123,7 +119,6 @@ async def start():
         CONDENSE_QUESTION_PROMPT = PromptTemplate.from_template(_template)
         
         ########## Chain with streaming ##########
-        retrieval = await retriever_to_cache()
         message_history = ChatMessageHistory()
         memory = ConversationBufferMemory(
             memory_key="chat_history",
@@ -142,7 +137,7 @@ async def start():
             chain_type="stuff",
             return_source_documents=True,
             verbose=False,
-            retriever=retrieval
+            retriever=retriever_to_cache()
         )
         cl.user_session.set("conversation_chain", qa)
     
@@ -153,7 +148,7 @@ async def main(message: cl.Message):
     if chatProfile[0] == "OF":
         chain = cl.user_session.get("conversation_chain")
         cb = cl.AsyncLangchainCallbackHandler()
-        res = await chain.ainvoke("Contexte : Réponds à la question suivante de la manière la plus pertinente, la plus exhaustive et la plus détaillée possible, avec au minimum 3000 tokens jusqu'à 4000 tokens, seulement et strictement dans le contexte et les informations fournies. Question : " + message.content, callbacks=[cb])
+        res = await chain.ainvoke("Contexte : Réponds à la question suivante de la manière la plus pertinente, la plus exhaustive et la plus détaillée possible, dans le contexte et les informations fournies. Question : " + message.content, callbacks=[cb])
         answer = res["answer"]
         source_documents = res["source_documents"]