main.py

from anthropic import Anthropic, HUMAN_PROMPT, AI_PROMPT
from langchain.chat_models import init_chat_model
from langchain_anthropic import ChatAnthropic
from langchain.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain.schema import StrOutputParser
from langchain.schema.runnable import Runnable
from langchain.schema.runnable import Runnable, RunnablePassthrough, RunnableLambda
from langchain.schema.runnable.config import RunnableConfig
from langchain_pinecone import PineconeVectorStore
from langchain_huggingface import HuggingFaceEmbeddings
from langchain_community.chat_message_histories import ChatMessageHistory
from langchain_core.chat_history import BaseChatMessageHistory
from langchain_core.runnables.history import RunnableWithMessageHistory
from pinecone import Pinecone

from typing import cast, List, Optional
from operator import itemgetter
from pydantic import BaseModel, Field

import os
import json
import pandas as pd
import numpy as np
import datetime
import bcrypt
import ast
import json
import requests
import random

from langchain_community.document_loaders import PyPDFLoader, TextLoader
from chainlit.types import AskFileResponse
from langchain.text_splitter import CharacterTextSplitter, RecursiveCharacterTextSplitter


from offres_emploi import Api
from offres_emploi.utils import dt_to_str_iso
from typing import Optional
import plotly.express as px
from bs4 import BeautifulSoup

import chainlit as cl
from chainlit.input_widget import Select, TextInput

from literalai import LiteralClient

literalai_client = LiteralClient(api_key=os.getenv("LITERAL_API_KEY"))
cb = literalai_client.langchain_callback()
previous_thread_id = str(random.randint(1, 7417869892607294))
os.environ['ANTHROPIC_API_KEY']=os.environ['ANTHROPIC_API_KEY']

@cl.password_auth_callback
def auth_callback(username: str, password: str):
    auth = json.loads(os.environ['CHAINLIT_AUTH_LOGIN'])
    ident = next(d['ident'] for d in auth if d['ident'] == username)
    pwd = next(d['pwd'] for d in auth if d['ident'] == username)
    resultLogAdmin = bcrypt.checkpw(username.encode('utf-8'), bcrypt.hashpw(ident.encode('utf-8'), bcrypt.gensalt())) 
    resultPwdAdmin = bcrypt.checkpw(password.encode('utf-8'), bcrypt.hashpw(pwd.encode('utf-8'), bcrypt.gensalt())) 
    resultRole = next(d['role'] for d in auth if d['ident'] == username)
    if resultLogAdmin and resultPwdAdmin and resultRole == "admindatapcc":
        return cl.User(
            identifier=ident + " : 🧑‍💼 Admin Datapcc", metadata={"role": "admin", "provider": "credentials"}
        )
    elif resultLogAdmin and resultPwdAdmin and resultRole == "userdatapcc":
        return cl.User(
            identifier=ident + " : 🧑‍🎓 User Datapcc", metadata={"role": "user", "provider": "credentials"}
        )

class Synoptique(BaseModel):
    """Informations à propos de la fiche synoptique."""

    # ^ Doc-string pour la fiche synoptique.
    # Ce doc-string est envoyé au LLM comme une description du schéma de la fiche synoptique,
    # et il peut améliorer le résultat de l'extraction.

    # Notez que:
    # 1. Chaque champ est `optional` -- Ceci permet au modèle de l'empêcher d'extraire l'information!
    # 2. Chaque champ a une description `description` -- Cette description est utilisée par le LLM.
    # Avoir une bonne description peut aider à améliorer le résultat de l'extraction.
    metier: Optional[str] = Field(default=None, description="L'intitulé du métier")
    activite_professionnelle: Optional[str] = Field(
        default=None, description="L'intitulé complet de l'activité professionnelle"
    )
    competence_professionnelle: Optional[str] = Field(
        default=None, description="L'intitulé complet de la compétence professionnelle"
    )

class Data(BaseModel):
    """Data extraites à propos de la fiche synoptique."""

    # Creates a model so that we can extract multiple entities.
    FicheSynoptique: List[Synoptique]

store = {}
def get_session_history(session_id: str) -> BaseChatMessageHistory:
    if session_id not in store:
        store[session_id] = ChatMessageHistory()
    return store[session_id]

def process_file(file: AskFileResponse):
    if file.type == "text/plain":
        Loader = TextLoader
    elif file.type == "application/pdf":
        Loader = PyPDFLoader

    text_splitter = RecursiveCharacterTextSplitter(chunk_size=100000, chunk_overlap=100)
    loader = Loader(file.path)
    documents = loader.load()
    docs = text_splitter.split_documents(documents)
    return docs
    
def removeTags(all):
  for data in all(['style', 'script']):
    data.decompose()
  return ' '.join(all.stripped_strings)
    
def modele(document):
    match document:
        case "Note de composante sectorielle":
            note = """
            2. Analyse du système travail
            2.1 Secteurs en lien avec la discipline
            2.1.1 Indiquer la nature des secteurs, la répartition des entreprises. Décrire les enjeux pour ce secteur (axes de développement, de transformations). Indiquer les OPérateurs de COmpétences de la branche professionnelle correspondante en France.
            2.2 Analyses des offres d’emploi
            2.2.1 Indiquer les statistiques de l’emploi sur une période. Identifier les 5 principales appellations métiers seulement en fonction du contexte, en créer une liste contextualisée, avec les pourcentages du nombre d'offres pour chaque emploi par rapport au nombre total d'offres.
            2.2.2 missions, activités et compétences demandées (écrites avec un verbe d'action). Décrire le/les profils types des recrutés par les employeurs du système de travail. Lister, au format liste, les évolutions professionnelles ou les exemples de spécialisation, lister, au format liste, les débouchés, lister, au format liste, les avantages du métier, lister, au format liste, les inconvénients du métier, lister, au format liste, les conseils pour réussir dans ce métier.
            2.2.3 Indiquer si les emplois sont en tension
            """
        case "Fiche Potentiel Profil de Sortie":
            note = """
            1. Nom de la fiche
            2. Niveau du diplôme et son Intitulé (nom long plus sigle). Le niveau de qualification
            3. Le résumé du profil et du potentiel de sortie. Il est composé de plusieurs parties :
                L'identité/ les spécificités de la composante.  Cette introduction de 5 à 10 lignes est utile pour caractériser le diplôme. Il s'agit d’avoir une description sur les thématiques de recherche de la composante. Elles sont indiquées afin d’établir le lien entre la recherche et des enjeux possibles dans le système travail. Elle facilite la compréhension des domaines de compétences dans lequel s’inscrit le futur diplômé. La culture disciplinaire est à indiquer car elle contribue à caractériser le diplôme.
                L'identité professionnelle du diplômé. Les informations professionnelles sont organisées par mailles (du plus large au plus précis) secteur, famille de métiers, activités, compétences, compétences transversales. Il est nécessaire d’être attentif au niveau de qualification de sortie. Nous avons des emplois accessibles dès l’obtention du diplôme, d'autres ne le seront qu’avec un une qualification supérieure et/ou avec de l’expérience. Il souhaitable de faire une description globale du profil en apportant des informations sur le niveau d’autonomie et de responsabilité et les caractéristiques d’exercice des emplois (spécialisé ou généraliste, polyvalent ou expert etc).Cette seconde partie de texte de 10 à 15 lignes introduit les domaines et enjeux sectoriels et/ou terrain de mise en œuvre (3 lignes), les principales appellations d’emploi (1 à 2 lignes), les activités professionnelles (employabilité ) et le processus métier  (3 à 4 lignes), les principaux interlocuteurs (1 à 2 lignes), les différents contextes de mise en œuvre (déplacements, langues étrangères). Cette description peut être suivi la liste d’emplois (avec une présentation courte 5 lignes) accessibles en indiquant le cas échéant les spécificités
            4. La réglementation le cas échéant
            5. Secteurs d'activité ou types d'emplois accessibles par le détenteur de ce diplôme
            6. Le type de structure et d’organisations professionnelles
            7. Listes des suites de parcours académiques ou passerelles de formation
            8. Codes Rome
            9. Référence de la fiche RNCP
            """
    return note

def definition(document):
    if document == "activite":
        meanings = """
        Définition d'une activité : une activité est un ensemble cohérent d'actions combinées : pour la réaliser, plusieurs compétences et opérations sont nécessaires, soit successivement, soit conjointement. Elles s'inscrivent à des moments clés du processus de réalisation et ne peuvent en aucun cas être occultées, car elles conditionnent le résultat. Plusieurs activités en vue d'une finalité avec une valeur ajoutée à un produit ou un service sont nécessaires pour mettre en œuvre un processus métier. De ce fait, il est essentiel de déterminer pour chaque activité sa propre finalité et de s'assurer que l'ensemble des activités participent bien d'un même processus.
        """
    elif document == "competence":
        meanings = """
        Définition d'une compétence : la compétence est une combinaison de savoirs en action, mobilisés en vue de réaliser une activité professionnelle. Elle s'apprécie, en tant qu'acquis de l'apprentissage selon des modalités adaptées permettant d'en certifier la possession et au regard de l'atteinte d'un résultat pour un niveau d'exigence prédéterminé. Les compétences peuvent être regroupées par domaines selon la nature et leur liaison subordonnée aux activités. Elles s'écrivent à l'aide de verbe d'action à l'infinitif comme le stipule la taxonomie de Bloom pour marquer une progression dans l'exercice de la compétence.
        """
    elif document == "promptLibraryNCS":
        meanings = """
        Exemple de requêtes sur la note sectorielle : traitement statistique et génération des codes des objets de datavisualisation\nQuestion1 : donne le dataframe des appellations métiers et de leur pourcentage.\nQuestion2 : donne le plotly.js du dataframe avec les labels des appellations métiers et les labels des pourcentages.\nQuestion3 : convertis en plotly.js au format javascript\nQuestion4 : donne les salaires moyens.\nQuestion5 : donne le résultat des salaires moyens par appellations métiers dans un tableau.\nQuestion6 : donne le plotly du tableau des salaires moyens par appellation métier.\nQuestion7 : convertis en plotly.js au format javascript avec les labels des salaires moyens et les labels des appellations métiers\nQuestion8 : donne le pourcentage des contrats en CDI.\nQuestion9 : donne le résultat dans un tableau\nQuestion10 : donne le plotly du tableau\nQuestion11 : convertis le plotly en plotly.js au format javascript, avec affichage de tous les labels.\nQuestion12 : donne les 10 compétences professionnelles principales avec leur pourcentage.\nQuestion13 : donne le résultat dans un tableau.\nQuestion14 : donne le plotly du tableau\nQuestion15 : convertis le plotly en plotly.js au format javascript, avec affichage de tous les labels.\nQuestion16 : quelles sont les appellations métiers accessibles selon une expérience débutant, en donnant un pourcentage?\nQuestion17 : donne le résultat dans un tableau.\nQuestion18 : donne le plotly du tableau.\nQuestion19 : convertis le plotly en plotly.js au format javascript, avec affichage de tous les labels.\nQuestion20 : quelles sont les appellations métiers accessibles selon un niveau de qualification jusqu'à Bac+2 ou assimilés, en donnant un pourcentage?\nQuestion21 : donne le résultat dans un tableau.\nQuestion22 : donne le plotly du tableau\nQuestion23 : convertis le plotly en plotly.js au format javascript, avec affichage de tous les labels.\nQuestion24 : donne le pourcentage des appellations métiers en fonction des types d'entreprise.\nQuestion25 : construis le tableau en faisant une estimation.\nQuestion26 : donne le plotly du tableau estimé avec les pourcentage évalués par toi-même\nQuestion27 : convertis le plotly en plotly.js au format javascript, avec affichage de tous les labels, issus de votre estimation.
        """
    elif document == "promptLibraryFCS":
        meanings = """
        Exemple de requêtes sur la fiche synoptique : construction d'un programme de formation complet\nQuestion1 : crée un programme de formation, en 4000 mots, sur 3 ans découpés en 6 semestres, comportant 3 blocs de compétences pédagogiques, dont les intitulés commencent par un verbe d'action, par semestre correspondant à 3 unités d'enseignement par semestre  et 3 cours par unité d'enseignement, en corrélation avec les activités professionnelles et les compétences professionnelles de la fiche synoptique, marquant une progression dans les apprentissages.\nQuestion2 : donne le synopsis du cours1 de l'UE1\nQuestion3 : plus?\nQuestion4 : et les supports pédagogiques?
        """
    return meanings

def plotDemandeur(dataframe, coderome):
  df = dataframe.sort_values(by=['Indicateur'])
  fig_demandeur = px.histogram(df, x='Indicateur', y='Valeur', height=1000, title="Demandeurs d'emploi et offres d'emploi du code ROME : " + coderome, color='Indicateur', labels={'Valeur':'Nombre'}, text_auto=True).update_layout(font=dict(size=9,color="RebeccaPurple"),autosize=True)
  return fig_demandeur

def plotSalaire(dataframe, coderome):
  df = dataframe.sort_values(by=['salaire'])
  fig_demandeur = px.histogram(df, x='emploi', y='salaire', barmode='group', title="Salaires médians du code ROME : " + coderome, color='categorie', text_auto=True).update_layout(font=dict(size=9,color="RebeccaPurple"),autosize=True)
  return fig_demandeur

def plotDifficulte(dataframe, coderome):
  if len(dataframe) == 0:
    title = "Aucune donnée difficulté de recrutement renseignée!"
  else:
    title = "Difficulté de recrutement du code ROME : " + coderome
  df = dataframe.sort_values(by=['Valeur'])
  fig_demandeur = px.histogram(df, x='Indicateur', y='Valeur', title=title, color='Indicateur', labels={'Valeur':'Pourcentage'}, text_auto=True).update_layout(font=dict(size=9,color="RebeccaPurple"),autosize=True)
  return fig_demandeur

def plotRepartition(dataframe,title, coderome):
  df = dataframe.sort_values(by=['Valeur'])
  fig_repartition = px.pie(df, names='Indicateur', values='Valeur', color='Indicateur', title=title +  "du code ROME : " + coderome, labels={'Valeur':'pourcentage'}, color_discrete_sequence=px.colors.qualitative.Safe).update_traces(textposition='inside', textinfo='percent+label').update_layout(font=dict(size=10,color="RebeccaPurple"))
  return fig_repartition
    
def htmlToDataframe(htmlTable):
  data = []
  list_header = []
  soup = BeautifulSoup(htmlTable,'html.parser')
  header = soup.find_all("table")[0].find("tr")
  for items in header:
    try:
      list_header.append(items.get_text())
    except:
      continue
  HTML_data = soup.find_all("table")[0].find_all("tr")[1:]
  for element in HTML_data:
    sub_data = []
    for sub_element in element:
      try:
        sub_data.append(sub_element.get_text())
      except:
          continue
    data.append(sub_data)
  dataFrame = pd.DataFrame(data = data, columns = list_header)
  return dataFrame
    
def datavisualisation_chiffres_cles_emplois(url):
    try:
        response = requests.get(url)
        soup = BeautifulSoup(response.text, "lxml")

        alldemandeurs = ''
        allsalaires = ''
        alldifficultes = ''
        allrepartitions = ''
        allentreprises = ''
        allembauches = soup.select('p.population_category')
        allnumembauchesfirst = soup.select('p.population_main-num.data')
        allnumembauches = removeTags(allnumembauchesfirst[0]).split('\xa0')
        allnumembauches = ''.join(allnumembauches)
        allnumoffres = removeTags(allnumembauchesfirst[1]).split('\xa0')
        allnumoffres = ''.join(allnumoffres)
        alldetailembauches = soup.select('p.hiring_text.ng-star-inserted')
        allnumevolutionembauches = soup.select('p.main.ng-star-inserted')
        alldetailevolutionembauches = soup.select('p.population_bubble-title')
        alldemandeurs = "<table><tr><td>Indicateur</td><td>Valeur</td></tr><tr><td>" + removeTags(allembauches[0]) + " (" + removeTags(alldetailembauches[0]) + ");"
        if len(alldetailevolutionembauches) >= 1 and len(allnumevolutionembauches) >= 1:
            alldemandeurs += "\nÉvolution demandeurs d'emploi (" + removeTags(alldetailevolutionembauches[0]) + ": " + removeTags(allnumevolutionembauches[0]) + ")</td>"
        else:
            alldemandeurs += "</td>"
        alldemandeurs += "<td>" + allnumembauches + "</td></tr>"
        alldemandeurs += "<tr><td>" + removeTags(allembauches[1]) + " (" + removeTags(alldetailembauches[1]) + ");"
        if len(alldetailevolutionembauches) >= 2 and len(allnumevolutionembauches) >= 2:
            alldemandeurs += "\nÉvolution offres d'emploi (" + removeTags(alldetailevolutionembauches[1]) + ": " + removeTags(allnumevolutionembauches[1]) + ")</td>"
        else:
            alldemandeurs += "</td>"
        alldemandeurs += "<td>" + allnumoffres + "</td></tr>"
        alldemandeurs += "</table>"

        allFAP = soup.select('tr.sectorTable__line.ng-star-inserted')
        allcategorie = soup.select('td.sectorTable__cell')
        alltypesalaires = soup.select('th.sectorTable__cell')
        allFAPsalaires = soup.select('p.sectorTable__cellValue')
        if len(allFAPsalaires) >= 3:
            allsalaires = "<table><tr><td>categorie</td><td>emploi</td><td>salaire</td></tr>"
            allsalaires += "<tr><td>" + removeTags(alltypesalaires[1]) + "</td><td>" + removeTags(allcategorie[0]) + "</td><td>" + removeTags(allFAPsalaires[0]).replace('\xa0','').replace(' ','').replace('€','') + "</td></tr>"
            allsalaires += "<tr><td>" + removeTags(alltypesalaires[2]) + "</td><td>" + removeTags(allcategorie[0]) + "</td><td>" + removeTags(allFAPsalaires[1]).replace('\xa0','').replace(' ','').replace('€','') + "</td></tr>"
            allsalaires += "<tr><td>" + removeTags(alltypesalaires[3]) + "</td><td>" + removeTags(allcategorie[0]) + "</td><td>" + removeTags(allFAPsalaires[2]).replace('\xa0','').replace(' ','').replace('€','') + "</td></tr>"
            if len(allFAP) >= 2 and len(allFAPsalaires) == 6:
                allsalaires += "<tr><td>" + removeTags(alltypesalaires[1]) + "</td><td>" + removeTags(allcategorie[4]) + "</td><td>" + removeTags(allFAPsalaires[3]).replace('\xa0','').replace(' ','').replace('€','') + "</td></tr>"
                allsalaires += "<tr><td>" + removeTags(alltypesalaires[2]) + "</td><td>" + removeTags(allcategorie[4]) + "</td><td>" + removeTags(allFAPsalaires[4]).replace('\xa0','').replace(' ','').replace('€','') + "</td></tr>"
                allsalaires += "<tr><td>" + removeTags(alltypesalaires[3]) + "</td><td>" + removeTags(allcategorie[4]) + "</td><td>" + removeTags(allFAPsalaires[5]).replace('\xa0','').replace(' ','').replace('€','') + "</td></tr>"
            allsalaires += "</table>"

        alltypedifficultes = soup.select('.tabs-main-content_persp-col2-bar.ng-star-inserted')
        alldifficulte = soup.select('p.horizontal-graph_title')
        allpcdifficulte = soup.select('div.horizontal-graph_data')
        alldifficultes = "<table><tr><td>Indicateur</td><td>Valeur</td></tr>"
        for i in range(0,len(alltypedifficultes)):
            alldifficultes += "<tr><td>" + removeTags(alldifficulte[i]) + "</td><td>" + removeTags(allpcdifficulte[i]).replace('Pour le territoire principal FRANCE pour les ' + removeTags(alldifficulte[i]),'').replace('%','') + "</td></tr>"
        alldifficultes += "</table>"

        alltyperepartitions = soup.select('div.hiring-contract_legende_item.ng-star-inserted')
        allrepartition = soup.select('p.hiring-contract_legende_item_label')
        allpcrepartition = soup.select('span.hiring-contract_legende_item-first')
        allrepartitions = "<table><tr><td>Indicateur</td><td>Valeur</td></tr>"
        for i in range(0,len(alltyperepartitions)):
            allrepartitions += "<tr><td>" + removeTags(allrepartition[i]).replace('(' + removeTags(allpcrepartition[i]) + ')','') + "</td><td>" + removeTags(allpcrepartition[i]).replace('%','').replace(',','.') + "</td></tr>"
        allrepartitions += "</table>"

        allentrepriserepartitions = soup.select('div.horizontal-graph_pattern.sm-bubble_wrapper > span')
        allentreprise = soup.select('span.sr-only')
        allpcentreprise = soup.select('span.data.ng-star-inserted')
        allentreprises = "<table><tr><td>Indicateur</td><td>Valeur</td></tr>"
        for i in range(0,len(allentrepriserepartitions)):
            allentreprises += "<tr><td>" + removeTags(allentrepriserepartitions[i])[0:-4] + "</td><td>" + removeTags(allentrepriserepartitions[i])[-4:].replace('%','').replace(',','.') + "</td></tr>"
        allentreprises += "</table>"

        return [alldemandeurs, allsalaires, alldifficultes, allrepartitions, allentreprises]
    except:
        return None
    
def listToString(list):
    return str(list)

def arrayToString(array):
    arrayList = []
    
    for i in range(0,len(array)):
        if listToString(array[i]).find("libelle")!=-1:
            arrayList.append(array[i]['libelle'])
        else:
            arrayList.append("; ")
    string = ', '.join(arrayList)
    return string + '; '

def searchByRome(rome,index):
    libelle = ''
    if rome.find(',') != -1:
        romeArray = rome.split(',')
        for i in range(0,len(romeArray)):
            codeRome = romeArray[i].strip()
            if i <= 8 and len(codeRome) == 8:
                all_docs = index.query(
                    top_k=1,
                    vector= [0] * 768, # embedding dimension
                    namespace='',
                    filter={"categorie": {"$eq": "rome"}, "rome":{"$eq": codeRome}},
                    include_metadata=True
                )
                libelle = libelle + " " + all_docs['matches'][0]['metadata']['libelle_rome']
    else:
        all_docs = index.query(
            top_k=1,
            vector= [0] * 768, # embedding dimension
            namespace='',
            filter={"categorie": {"$eq": "rome"}, "rome":{"$eq": rome}},
            include_metadata=True
        )
        libelle = libelle + " " + all_docs['matches'][0]['metadata']['libelle_rome']
    return libelle

@cl.author_rename
def rename(orig_author: str):
    rename_dict = {"ConversationalRetrievalChain": "💬 Assistant conversationnel", "Retriever": "Agent conversationnel", "StuffDocumentsChain": "Chaîne de documents", "LLMChain": "Agent", "ChatAnthropic": "IA 🤖"}
    return rename_dict.get(orig_author, orig_author)

def localisation():
    ListCentroids = [
        { "ID": "01", "Longitude": 5.3245259, "Latitude":46.0666003 },
        { "ID": "02", "Longitude": 3.5960246, "Latitude": 49.5519632 },
        { "ID": "03", "Longitude": 3.065278, "Latitude": 46.4002783 },
        { "ID": "04", "Longitude": 6.2237688, "Latitude": 44.1105837 },
        { "ID": "05", "Longitude": 6.2018836, "Latitude": 44.6630487 },
    	{ "ID": "06", "Longitude": 7.0755745, "Latitude":43.9463082 },
        { "ID": "07", "Longitude": 4.3497308, "Latitude": 44.7626044 },
        { "ID": "08", "Longitude": 4.6234893, "Latitude": 49.6473884 },
        { "ID": "09", "Longitude": 1.6037147, "Latitude": 42.9696091 },
        { "ID": "10", "Longitude": 4.1394954, "Latitude": 48.2963286 },
    	{ "ID": "11", "Longitude": 2.3140163, "Latitude": 43.1111427 },
    	{ "ID": "12", "Longitude": 2.7365234, "Latitude": 44.2786323 },
    	{ "ID": "13", "Longitude": 5.0515492, "Latitude": 43.5539098 },
    	{ "ID": "14", "Longitude": -0.3930779, "Latitude": 49.1024215 },
    	{ "ID": "15", "Longitude": 2.6367657, "Latitude": 44.9643217 },
    	{ "ID": "16", "Longitude": 0.180475, "Latitude": 45.706264 },
    	{ "ID": "17", "Longitude": -0.7082589, "Latitude": 45.7629699 },
    	{ "ID": "18", "Longitude": 2.5292424, "Latitude": 47.0926687 },
    	{ "ID": "19", "Longitude": 1.8841811, "Latitude": 45.3622055 },
    	{ "ID": "2A", "Longitude": 8.9906834, "Latitude": 41.8619761 },
    	{ "ID": "2B", "Longitude": 9.275489, "Latitude": 42.372014 },
    	{ "ID": "21", "Longitude": 4.7870471, "Latitude": 47.4736746 },
    	{ "ID": "22", "Longitude": -2.9227591, "Latitude": 48.408402 },
    	{ "ID": "23", "Longitude": 2.0265508, "Latitude": 46.0837382 },
    	{ "ID": "24", "Longitude": 0.7140145, "Latitude": 45.1489678 },
    	{ "ID": "25", "Longitude": 6.3991355, "Latitude": 47.1879451 },
    	{ "ID": "26", "Longitude": 5.1717552, "Latitude": 44.8055408 },
    	{ "ID": "27", "Longitude": 0.9488116, "Latitude": 49.1460288 },
    	{ "ID": "28", "Longitude": 1.2793491, "Latitude": 48.3330017 },
    	{ "ID": "29", "Longitude": -4.1577074, "Latitude": 48.2869945 },
    	{ "ID": "30", "Longitude": 4.2650329, "Latitude": 43.9636468 },
    	{ "ID": "31", "Longitude": 1.2728958, "Latitude": 43.3671081 },
    	{ "ID": "32", "Longitude": 0.4220039, "Latitude": 43.657141 },
    	{ "ID": "33", "Longitude": -0.5760716, "Latitude": 44.8406068 },
    	{ "ID": "34", "Longitude": 3.4197556, "Latitude": 43.62585 },
    	{ "ID": "35", "Longitude": -1.6443812, "Latitude": 48.1801254 },
    	{ "ID": "36", "Longitude": 1.6509938, "Latitude": 46.7964222 },
    	{ "ID": "37", "Longitude": 0.7085619, "Latitude": 47.2802601 },
    	{ "ID": "38", "Longitude": 5.6230772, "Latitude": 45.259805 },
    	{ "ID": "39", "Longitude": 5.612871, "Latitude": 46.7398138 },
    	{ "ID": "40", "Longitude": -0.8771738, "Latitude": 44.0161251 },
    	{ "ID": "41", "Longitude": 1.3989178, "Latitude": 47.5866519 },
    	{ "ID": "42", "Longitude": 4.2262355, "Latitude": 45.7451186 },
    	{ "ID": "43", "Longitude": 3.8118151, "Latitude": 45.1473029 },
    	{ "ID": "44", "Longitude": -1.7642949, "Latitude": 47.4616509 },
    	{ "ID": "45", "Longitude": 2.2372695, "Latitude": 47.8631395 },
    	{ "ID": "46", "Longitude": 1.5732157, "Latitude": 44.6529284 },
    	{ "ID": "47", "Longitude": 0.4788052, "Latitude": 44.4027215 },
    	{ "ID": "48", "Longitude": 3.4991239, "Latitude": 44.5191573 },
    	{ "ID": "49", "Longitude": -0.5136056, "Latitude": 47.3945201 },
    	{ "ID": "50", "Longitude": -1.3203134, "Latitude": 49.0162072 },
    	{ "ID": "51", "Longitude": 4.2966555, "Latitude": 48.9479636 },
    	{ "ID": "52", "Longitude": 5.1325796, "Latitude": 48.1077196 },
    	{ "ID": "53", "Longitude": -0.7073921, "Latitude": 48.1225795 },
    	{ "ID": "54", "Longitude": 6.144792, "Latitude": 48.7995163 },
    	{ "ID": "55", "Longitude": 5.2888292, "Latitude": 49.0074545 },
    	{ "ID": "56", "Longitude": -2.8746938, "Latitude": 47.9239486 },
    	{ "ID": "57", "Longitude": 6.5610683, "Latitude": 49.0399233 },
    	{ "ID": "58", "Longitude": 3.5544332, "Latitude": 47.1122301 },
    	{ "ID": "59", "Longitude": 3.2466616, "Latitude": 50.4765414 },
    	{ "ID": "60", "Longitude": 2.4161734, "Latitude": 49.3852913 },
    	{ "ID": "61", "Longitude": 0.2248368, "Latitude": 48.5558919 },
    	{ "ID": "62", "Longitude": 2.2555152, "Latitude": 50.4646795 },
    	{ "ID": "63", "Longitude": 3.1322144, "Latitude": 45.7471805 },
    	{ "ID": "64", "Longitude": -0.793633, "Latitude": 43.3390984 },
    	{ "ID": "65", "Longitude": 0.1478724, "Latitude": 43.0526238 },
    	{ "ID": "66", "Longitude": 2.5239855, "Latitude": 42.5825094 },
    	{ "ID": "67", "Longitude": 7.5962225, "Latitude": 48.662515 },
    	{ "ID": "68", "Longitude": 7.2656284, "Latitude": 47.8586205 },
    	{ "ID": "69", "Longitude": 4.6859896, "Latitude": 45.8714754 },
    	{ "ID": "70", "Longitude": 6.1388571, "Latitude": 47.5904191 },
    	{ "ID": "71", "Longitude": 4.6394021, "Latitude": 46.5951234 },
    	{ "ID": "72", "Longitude": 0.1947322, "Latitude": 48.0041421 },
    	{ "ID": "73", "Longitude": 6.4662232, "Latitude": 45.4956055 },
    	{ "ID": "74", "Longitude": 6.3609606, "Latitude": 46.1045902 },
    	{ "ID": "75", "Longitude": 2.3416082, "Latitude": 48.8626759 },
    	{ "ID": "76", "Longitude": 1.025579, "Latitude": 49.6862911 },
    	{ "ID": "77", "Longitude": 2.8977309, "Latitude": 48.5957831 },
    	{ "ID": "78", "Longitude": 1.8080138, "Latitude": 48.7831982 },
    	{ "ID": "79", "Longitude": -0.3159014, "Latitude": 46.5490257 },
    	{ "ID": "80", "Longitude": 2.3380595, "Latitude": 49.9783317 },
    	{ "ID": "81", "Longitude": 2.2072751, "Latitude": 43.8524305 },
    	{ "ID": "82", "Longitude": 1.2649374, "Latitude": 44.1254902 },
    	{ "ID": "83", "Longitude": 6.1486127, "Latitude": 43.5007903 },
    	{ "ID": "84", "Longitude": 5.065418, "Latitude": 44.0001599 },
    	{ "ID": "85", "Longitude": -1.3956692, "Latitude": 46.5929102 },
    	{ "ID": "86", "Longitude": 0.4953679, "Latitude": 46.5719095 },
    	{ "ID": "87", "Longitude": 1.2500647, "Latitude": 45.9018644 },
    	{ "ID": "88", "Longitude": 6.349702, "Latitude": 48.1770451 },
    	{ "ID": "89", "Longitude": 3.5634078, "Latitude": 47.8474664 },
    	{ "ID": "90", "Longitude": 6.9498114, "Latitude": 47.6184394 },
    	{ "ID": "91", "Longitude": 2.2714555, "Latitude": 48.5203114 },
    	{ "ID": "92", "Longitude": 2.2407148, "Latitude": 48.835321 },
    	{ "ID": "93", "Longitude": 2.4811577, "Latitude": 48.9008719 },
    	{ "ID": "94", "Longitude": 2.4549766, "Latitude": 48.7832368 },
    	{ "ID": "95", "Longitude": 2.1802056, "Latitude": 49.076488 },
    	{ "ID": "974", "Longitude": 55.536384, "Latitude": -21.115141 },
    	{ "ID": "973", "Longitude": -53.125782, "Latitude": 3.933889 },
    	{ "ID": "972", "Longitude": -61.024174, "Latitude": 14.641528 },
    	{ "ID": "971", "Longitude": -61.551, "Latitude": 16.265 }
    ]
    #longLat = pd.DataFrame(ListCentroids)
    
    return ListCentroids
    
@cl.action_callback("datavizEmploi")
async def on_action(action):
    client = Api(client_id=os.environ['POLE_EMPLOI_CLIENT_ID'],
                client_secret=os.environ['POLE_EMPLOI_CLIENT_SECRET'])
    todayDate = datetime.datetime.today()
    month, year = (todayDate.month-1, todayDate.year) if todayDate.month != 1 else (12, todayDate.year-1)
    start_dt = todayDate.replace(day=1, month=month, year=year)
    end_dt = datetime.datetime.today()
    arraydataframe = []
    arrayfirstdataframe = []
    arraylocalisationdataframe = []
    results = []
    count = 0
    listrome = action.value
    arrayrome = listrome.split(',')
    for k in arrayrome:
        try:
            params = {"motsCles": k,'minCreationDate': dt_to_str_iso(start_dt),'maxCreationDate': dt_to_str_iso(end_dt),'range':'0-149'}
            search_on_big_data = client.search(params=params)
            results += search_on_big_data["resultats"]
        except:
            print("Pas d'offres d'emploi!")
    results_df = pd.DataFrame(results)
    if results_df.empty == False:
        count = count + 1
        finals = results_df[['intitule','typeContratLibelle','experienceLibelle','competences','qualitesProfessionnelles','salaire','lieuTravail','formations']].copy()
        finals["lieuTravail"] = finals["lieuTravail"].apply(lambda x: x['libelle']).apply(lambda x: x[0:3]).apply(lambda x: x.strip())
        finals_df = finals
        finals_df.dropna(subset=['qualitesProfessionnelles','formations','competences'], inplace=True)
        finals_df["competences"] = finals_df["competences"].apply(lambda x:[str(e['libelle']) for e in x]).apply(lambda x:'; '.join(map(str, x)))
        finals_df["qualitesProfessionnelles"] = finals_df["qualitesProfessionnelles"].apply(lambda x:[str(e['libelle']) + ": " + str(e['description']) for e in x]).apply(lambda x:'; '.join(map(str, x)))
        finals_df["formations"] = finals_df["formations"].apply(lambda x:[str(e['niveauLibelle']) for e in x]).apply(lambda x:'; '.join(map(str, x)))
        finals_df = finals_df.sort_values(by=['lieuTravail'])
        finals_localisation = results_df[['lieuTravail']].copy()
        finals_localisation["lieuTravail"] = finals_localisation["lieuTravail"].apply(lambda x: np.array(x)).apply(lambda x: x['libelle']).apply(lambda x: x[0:3]).apply(lambda x: x.strip())
        finals_localisation.drop(finals_localisation[finals_localisation['lieuTravail'] == 'Fra'].index, inplace = True)
        finals_localisation.drop(finals_localisation[finals_localisation['lieuTravail'] == 'FRA'].index, inplace = True)
        finals_localisation.drop(finals_localisation[finals_localisation['lieuTravail'] == 'Ile'].index, inplace = True)
        finals_localisation.drop(finals_localisation[finals_localisation['lieuTravail'] == 'Mar'].index, inplace = True)
        finals_localisation.drop(finals_localisation[finals_localisation['lieuTravail'] == 'Bou'].index, inplace = True)
        finals_localisation.drop(finals_localisation[finals_localisation['lieuTravail'] == '976'].index, inplace = True)
        arraylocalisationdataframe.append(finals_localisation)
        arrayfirstdataframe.append(results_df)
        if len(finals_df) != 0:
            arraydataframe.append(finals_df)
    first_df = pd.concat(arrayfirstdataframe)
    finals_df = pd.concat(arraydataframe)
    localisation_df = pd.concat(arraylocalisationdataframe)
    
    ######## Emplois ########
    df_intitule = first_df.groupby('intitule').size().reset_index(name='obs')
    df_intitule = df_intitule.sort_values(by=['obs'])
    df_intitule = df_intitule.iloc[-25:]
    fig_intitule = px.bar(df_intitule, x='obs', y='intitule', orientation='h', color='obs', title="Les principaux emplois", labels={'obs':'nombre'}, color_continuous_scale="Teal", text_auto=True).update_layout(font=dict(size=10,color="RebeccaPurple"),autosize=True).update_traces(hovertemplate=df_intitule["intitule"] + ' <br>Nombre : %{x}', y=[y[:100] + "..." for y in df_intitule["intitule"]], showlegend=False)
    
    ######## Types de contrat ########
    df_contrat = first_df.groupby('typeContratLibelle').size().reset_index(name='obs')
    fig_contrat = px.pie(df_contrat, names='typeContratLibelle', values='obs', color='obs', title="Les types de contrat", labels={'obs':'nombre'}, color_discrete_sequence=px.colors.qualitative.Safe).update_traces(textposition='inside', textinfo='percent+label').update_layout(font=dict(size=10,color="RebeccaPurple"))
    
    df_secteur = first_df.groupby('secteurActiviteLibelle').size().reset_index(name='obs')
    df_secteur = df_secteur.sort_values(by=['obs'])
    df_secteur = df_secteur.iloc[-25:]
    fig_secteur = px.bar(df_secteur, x='obs', y='secteurActiviteLibelle', orientation='h', color='obs', title="Les principaux secteurs d'activités", labels={'obs':'nombre'}, color_continuous_scale="Teal", text_auto=True).update_layout(font=dict(size=10,color="RebeccaPurple"),autosize=True).update_traces(hovertemplate=df_secteur["secteurActiviteLibelle"] + ' <br>Nombre : %{x}', y=[y[:100] + "..." for y in df_secteur["secteurActiviteLibelle"]], showlegend=False)
    
    ######## Compétences professionnelles ########
    df1 = finals_df
    df1['competences'] = finals_df['competences'].str.split(';')
    df2 = df1.explode('competences')
    df2 = df2.groupby('competences').size().reset_index(name='obs')
    df2 = df2.sort_values(by=['obs'])
    df2 = df2.iloc[-20:]
    fig_competences = px.bar(df2, x='obs', y='competences', orientation='h', color='obs', title="Les principales compétences professionnelles", labels={'obs':'nombre'}, color_continuous_scale="Teal", text_auto=True).update_layout(font=dict(size=10,color="RebeccaPurple"),autosize=True).update_traces(hovertemplate=df2["competences"] + ' <br>Nombre : %{x}', y=[y[:100] + "..." for y in df2['competences']], showlegend=False)
    
    ######## Compétences transversales ########
    df_transversales = finals_df
    df_transversales['qualitesProfessionnelles'] = finals_df['qualitesProfessionnelles'].str.split(';')
    df_comptransversales = df_transversales.explode('qualitesProfessionnelles')
    df_comptransversales = df_comptransversales.groupby('qualitesProfessionnelles').size().reset_index(name='obs')
    df_comptransversales = df_comptransversales.sort_values(by=['obs'])
    df_comptransversales = df_comptransversales.iloc[-20:]
    fig_transversales = px.bar(df_comptransversales, x='obs', y='qualitesProfessionnelles', orientation='h', color='obs', title="Les principales compétences transversales", labels={'obs':'nombre'}, color_continuous_scale="Teal", text_auto=True).update_layout(font=dict(size=10,color="RebeccaPurple"),autosize=True).update_traces(hovertemplate=df_comptransversales["qualitesProfessionnelles"] + ' <br>Nombre : %{x}', y=[y[:100] + "..." for y in df_comptransversales["qualitesProfessionnelles"]], showlegend=False)
    
    ######## Niveaux de qualification ########
    df_formations = finals_df.groupby('formations').size().reset_index(name='obs')
    fig_formations = px.pie(df_formations, names='formations', values='obs', color='obs', title="Les niveaux de qualification", labels={'obs':'nombre'}, color_discrete_sequence=px.colors.qualitative.Safe).update_traces(textposition='inside', textinfo='percent+label').update_layout(font=dict(size=10,color="RebeccaPurple"))
    
    ######## Expériences professionnelles ########
    df_experience = finals_df.groupby('experienceLibelle').size().reset_index(name='obs')
    fig_experience = px.pie(df_experience, names='experienceLibelle', values='obs', color='obs', title="Les expériences professionnelles", labels={'obs':'nombre'}, color_discrete_sequence=px.colors.qualitative.Safe).update_traces(textposition='inside', textinfo='percent+label').update_layout(font=dict(size=10,color="RebeccaPurple"))
    
    res = requests.get(
        "https://raw.githubusercontent.com/codeforgermany/click_that_hood/main/public/data/spain-provinces.geojson"
    )
    ######## localisation ########
    ListCentroids = localisation()
    df_localisation = localisation_df.groupby('lieuTravail').size().reset_index(name='obs')
    df_localisation = df_localisation.sort_values(by=['lieuTravail'])
    df_localisation['longitude'] = df_localisation['lieuTravail']
    df_localisation['latitude'] = df_localisation['lieuTravail']
    
    
    df_localisation["longitude"] = df_localisation['longitude'].apply(lambda x:[loc['Longitude'] for loc in ListCentroids if loc['ID'] == x]).apply(lambda x:''.join(map(str, x)))
    df_localisation["longitude"] = pd.to_numeric(df_localisation["longitude"], downcast="float")
    df_localisation["latitude"] = df_localisation['latitude'].apply(lambda x:[loc['Latitude'] for loc in ListCentroids if loc['ID'] == x]).apply(lambda x:''.join(map(str, x)))
    df_localisation["latitude"] = pd.to_numeric(df_localisation["latitude"], downcast="float")

    fig_localisation = px.scatter_mapbox(df_localisation, lat="latitude", lon="longitude", hover_name="lieuTravail", size="obs").update_layout(
        mapbox={
            "style": "carto-positron",
            "center": {"lon": 2, "lat" : 47},
            "zoom": 4.5,
            "layers": [
                {
                    "source": res.json(),
                    "type": "line",
                    "color": "green",
                    "line": {"width": 0},
                }
            ],
        }
    )
        
    elements = []
    elements.append(cl.Plotly(name="chart_intitule", figure=fig_intitule, display="inline"))
    elements.append(cl.Plotly(name="chart_contrat", figure=fig_contrat, display="inline"))
    elements.append(cl.Plotly(name="chart_competences", figure=fig_competences, display="inline"))
    elements.append(cl.Plotly(name="chart_transversales", figure=fig_transversales, display="inline"))
    elements.append(cl.Plotly(name="chart_formations", figure=fig_formations, display="inline"))
    elements.append(cl.Plotly(name="chart_experience", figure=fig_experience, display="inline"))
    elements.append(cl.Plotly(name="chart_secteur", figure=fig_secteur, display="inline"))
    elements.append(cl.Plotly(name="chart_localisation", figure=fig_localisation, display="inline"))
        
    await cl.Message(content="Datavisualisation du marché de l'emploi", elements=elements).send()
    await action.remove()

@cl.action_callback("datavizChiffresClesMetiers")
async def on_action(action):
    romeList = action.value
    romeListArray = romeList.split(',')
    elements = []
    for j in range(0, len(romeListArray)):
        table = datavisualisation_chiffres_cles_emplois("https://dataemploi.pole-emploi.fr/metier/chiffres-cles/NAT/FR/" + romeListArray[j])
        plot_demandeur = plotDemandeur(htmlToDataframe(table[0]), romeListArray[j])
        elements.append(cl.Plotly(name="chart_demandeur", figure=plot_demandeur, display="inline", size="large"))
        if len(table[1]) > 0:
            plot_salaire = plotSalaire(htmlToDataframe(table[1]), romeListArray[j])
            elements.append(cl.Plotly(name="chart_salaire", figure=plot_salaire, display="inline", size="large"))
        plot_difficulte = plotDifficulte(htmlToDataframe(table[2]), romeListArray[j])
        elements.append(cl.Plotly(name="chart_difficulte", figure=plot_difficulte, display="inline", size="large"))
        plot_repartitionContrat = plotRepartition(htmlToDataframe(table[3]), "Répartition des embauches du métier : type de contrat", romeListArray[j])
        elements.append(cl.Plotly(name="chart_repatitionContrat", figure=plot_repartitionContrat, display="inline", size="large"))
        plot_repartitionEntreprise = plotRepartition(htmlToDataframe(table[4]), "Répartition des embauches du métier : type entreprise", romeListArray[j])
        elements.append(cl.Plotly(name="chart_repartitionEntreprise", figure=plot_repartitionEntreprise, display="inline", size="large"))
        
    await cl.Message(content="Datavisualisation des chiffres clés des Métiers", elements=elements).send()
    
@cl.action_callback("download")
async def on_action(action):
    content = []
    content.append(action.value)
    arrayContent = np.array(content)
    df = pd.DataFrame(arrayContent)
    with open('./' + action.description + '.txt', 'wb') as csv_file:
        df.to_csv(path_or_buf=csv_file, index=False,header=False, encoding='utf-8')
    elements = [
        cl.File(
            name= action.description + ".txt",
            path="./" + action.description + ".txt",
            display="inline",
        ),
    ]
    await cl.Message(
        author="admin", content="[Lien] 🔗", elements=elements
    ).send()
    await action.remove()
    
@cl.action_callback("saveToMemory")
async def on_action(action):
    buffer = cl.user_session.get("saveMemory")
    cl.user_session.set("saveMemory", buffer + action.value)
    await cl.Message(
        author="admin", content="🗃️ Document sauvegardé dans le buffer Memory!"
    ).send()
    await action.remove()

@cl.cache
def to_cache(file):
    return "https://cipen.univ-gustave-eiffel.fr/fileadmin/CIPEN/datas/assets/docs/" + file + ".csv"

async def recuperation_contexte(getNote):
    getContext = cl.user_session.get(getNote)
    return getNote + " :\n" + getContext

@cl.step(name="Construction du contexte", type="tool", show_input=True, language="python")
async def contexte(romeListArray):
    results = await FranceTravail_API_connexion(romeListArray)
    index = await vectorDatabase_connexion()
    emplois = []
    for i in range(0,len(results)):
        if i == 0:
            emplois.append("Secteur : " + searchByRome(romeListArray,index))
        else:
            emplois.append("\nEmploi : " + results[i]['intitule'] + "; Contrat : " + results[i]['typeContrat'] + "; Compétences professionnelles : " + arrayToString(results[i]['competences']) if listToString(results[i]).find("'competences':")!=-1 else "; " + "Salaire : " + listToString(results[i]['salaire']) + "; Qualification : " + results[i]['qualificationLibelle'] if listToString(results[i]).find("'qualificationLibelle':")!=-1 else "; " + "; Localisation : " + listToString(results[i]['lieuTravail']) + "; Description du poste : " + listToString(results[i]['description']) + "; Entreprise : " + listToString(results[i]['entreprise']['nom']) if listToString(results[i]['entreprise']).find("'nom':")!=-1 else "; ")
    emplois_list = ''.join(emplois)
    context = emplois_list.replace('[','').replace(']','').replace('{','').replace('}','')
    ficheMetier = await FicheMetier("https://candidat.francetravail.fr/metierscope/fiche-metier/", romeListArray)
    #metierSecteurContexteTravail = await Metier_secteur_contexte_travail(romeListArray[0])
    ficheClesMetier = await ChiffresClesMetier("https://dataemploi.pole-emploi.fr/metier/chiffres-cles/NAT/FR/", romeListArray)
    #ficheMetiersCompetencesSavoirs = await Fiche_metier_competences_savoirs(romeListArray[0])
    cl.user_session.set("EmploiST", context)
    cl.user_session.set("FichesMetiers", ficheMetier)
    cl.user_session.set("ChiffresClesST", ficheClesMetier)
    return "Fiche Métier :\n" + ficheMetier + "Chiffres clés métier :\n" + ficheClesMetier + "\nListe des emplois issus de France Travail :\n" + context
    
@cl.step(name="récupération de la fiche métier", type="tool", show_input=True, language="python")
async def FicheMetier(url, codes):
    if codes.find(',') != -1:
        all = ""
        codeArray = codes.split(',')
        for i in range(0,len(codeArray)):
            try:
                response = requests.get(url + codeArray[i])
                soup = BeautifulSoup(response.text, "html.parser")
                allmissions = soup.select('div.fm-presentation-text')
                allcompetences = soup.select('div#part2')
                allcontextes = soup.select('div#part3')
                all = all + "Fiche Métier " + codeArray[i] + ":\nLes missions principales : " + removeTags(allmissions[0]) + ". Les compétences recherchées : " + removeTags(allcompetences[0]) + ". Les contextes au travail : " + removeTags(allcontextes[0]) + "."
            except:
                all = all + "Fiche Métier " + codeArray[i] + " :\nAucune fiche métier trouvée.\n"
    else:
        try:
            response = requests.get(url + codes)
            soup = BeautifulSoup(response.text, "html.parser")
            allmissions = soup.select('div.fm-presentation-text')
            allcompetences = soup.select('div#part2')
            allcontextes = soup.select('div#part3')
            all = "Fiche Métier " + codes + ":\nLes missions principales : " + removeTags(allmissions[0]) + ". Les compétences recherchées : " + removeTags(allcompetences[0]) + ". Les contextes au travail : " + removeTags(allcontextes[0]) + "."
        except:
            all = "Fiche Métier " + codes + " :\nAucune fiche métier trouvée.\n"
        
    return all

@cl.step(name="récupération des statistiques de l'emploi", type="tool", show_input=True, language="python")
async def ChiffresClesMetier(url, codes):
    if codes.find(',') != -1:
        all = ""
        codeArray = codes.split(',')
        for i in range(0,len(codeArray)):
            try:
                response = requests.get(url + codeArray[i])
                soup = BeautifulSoup(response.text, "html.parser")
                if soup.select('h1#titreMetier'):
                    alltitre = soup.select('h1#titreMetier')
                    allTitre = removeTags(alltitre[0])
                else:
                    allTitre = ""
                if soup.select('div.jobs_item-container-flex'):
                    allembauches = soup.select('div.jobs_item-container-flex')
                    allEmbauches = removeTags(allembauches[0])
                else:
                    allEmbauches = ""
                if soup.select('div.key-number_block.shadow.inset'):
                    allsalaires = soup.select('div.key-number_block.shadow.inset')
                    allSalaires = removeTags(allsalaires[0])
                else:
                    allSalaires = ""
                if soup.select('tbody.sectorTable__body'):
                    allsalairesMedian = soup.select('tbody.sectorTable__body')
                    allSalairesMedian = removeTags(allsalairesMedian[0])
                else:
                    allSalairesMedian = ""
                if soup.select('div.dynamism_canvas-wrapper > p.sr-only'):
                    allDiff = soup.select('div.dynamism_canvas-wrapper > p.sr-only')
                    alldiff = removeTags(allDiff[0])
                else:
                    alldiff = ""
                if soup.select('div.tabs-main-data_persp-col2'):
                    allDiffOrigin = soup.select('div.tabs-main-data_persp-col2')
                    alldiffOrigin = removeTags(allDiffOrigin[0])
                else:
                    alldiffOrigin = ""
                allTypeContrat = ""
                if soup.find_all("div", class_="hiring-contract_legende_item ng-star-inserted"):
                    allContrat = soup.find_all("div", class_="hiring-contract_legende_item ng-star-inserted")
                    for j in range(0,len(allContrat)):
                        allTypeContrat = allTypeContrat + removeTags(allContrat[j]) + ", "
                if soup.find_all("div", class_="horizontal-graph_patterns"):
                    allEntreprise = soup.find_all("div", class_="horizontal-graph_patterns")
                    allentreprise = removeTags(allEntreprise[0])
                else:
                    allentreprise = ""
                all = all + "\n\nChiffres-clés Métier " + allTitre + ":\nDemandeurs d'emploi et Offres d'emploi : " + allEmbauches + ".\nSalaires proposés dans les offres : " + allSalaires + ".\nSalaires médians constatés : " + allSalairesMedian + ".\nDifficultés de recrutement pour les entreprises : " + alldiff + ".\nOrigine des difficultés : " + alldiffOrigin + ".\nRépartition des embauches par type de contrat : " + allTypeContrat + ".\n|Répartition des embauches par taille d'entreprise : " + allentreprise.replace("Entreprise","|\n|Entreprise") + "."
            except:
                all = all + "\n\nChiffres-clés Métier " + codeArray[i] + " :\nAucun chiffre clé trouvé.\n"
    else:
        try:
            response = requests.get(url + codes)
            soup = BeautifulSoup(response.text, "html.parser")
            if soup.select('h1#titreMetier'):
                alltitre = soup.select('h1#titreMetier')
                allTitre = removeTags(alltitre[0])
            else:
                allTitre = ""
            if soup.select('div.jobs_item-container-flex'):
                allembauches = soup.select('div.jobs_item-container-flex')
                allEmbauches = removeTags(allembauches[0])
            else:
                allEmbauches = ""
            if soup.select('div.key-number_block.shadow.inset'):
                allsalaires = soup.select('div.key-number_block.shadow.inset')
                allSalaires = removeTags(allsalaires[0])
            else:
                allSalaires = ""
            if soup.select('tbody.sectorTable__body'):
                allsalairesMedian = soup.select('tbody.sectorTable__body')
                allSalairesMedian = removeTags(allsalairesMedian[0])
            else:
                allSalairesMedian = ""
            if soup.select('div.dynamism_canvas-wrapper > p.sr-only'):
                allDiff = soup.select('div.dynamism_canvas-wrapper > p.sr-only')
                alldiff = removeTags(allDiff[0])
            else:
                alldiff = ""
            if soup.select('div.tabs-main-data_persp-col2'):
                allDiffOrigin = soup.select('div.tabs-main-data_persp-col2')
                alldiffOrigin = removeTags(allDiffOrigin[0])
            else:
                alldiffOrigin = ""
            allTypeContrat = ""
            if soup.find_all("div", class_="hiring-contract_legende_item ng-star-inserted"):
                allContrat = soup.find_all("div", class_="hiring-contract_legende_item ng-star-inserted")
                for j in range(0,len(allContrat)):
                    allTypeContrat = allTypeContrat + removeTags(allContrat[j]) + ", "
            if soup.find_all("div", class_="horizontal-graph_patterns"):
                allEntreprise = soup.find_all("div", class_="horizontal-graph_patterns")
                allentreprise = removeTags(allEntreprise[0])
            else:
                allentreprise = ""
            all = "\n\nChiffres-clés Métier " + allTitre + ":\nDemandeurs d'emploi et Offres d'emploi : " + allEmbauches + ". Salaires proposés dans les offres : " + allSalaires + ". Salaires médians constatés : " + allSalairesMedian + ". Difficultés de recrutement pour les entreprises : " + alldiff + ". Origine des difficultés : " + alldiffOrigin + ". Répartition des embauches par type de contrat : " + allTypeContrat + ". Répartition des embauches par taille d'entreprise : " + allentreprise + "."
        except:
            all = "Chiffres-clés Métier " + codes + " :\nAucun chiffre clé trouvé.\n"
    return all

async def vectorOFDatabase_connexion():
    os.environ['PINECONE_API_KEY'] = os.environ['PINECONE_API_KEY']
    os.environ['PINECONE_INDEX_NAME'] = os.environ['PINECONE_INDEX_NAME']
    embeddings = HuggingFaceEmbeddings()
    docsearch = PineconeVectorStore(index_name=os.environ['PINECONE_INDEX_NAME'], embedding=embeddings)
    return docsearch

@cl.step(name="récupération du secteur professionnel", type="tool", show_input=True, language="python")
async def vectorDatabase_connexion():
    os.environ['PINECONE_API_KEYROME'] = os.environ['PINECONE_API_KEYROME']
    pc = Pinecone(api_key=os.environ['PINECONE_API_KEYROME'])
    index_name = "all-skills"
    index = pc.Index(index_name)
    return index

@cl.step(name="récupération des emplois de France Travail", type="tool", show_input=True, language="python")
async def FranceTravail_API_connexion(romeListArray):
    client = Api(client_id=os.environ['POLE_EMPLOI_CLIENT_ID'],
                client_secret=os.environ['POLE_EMPLOI_CLIENT_SECRET'])
    todayDate = datetime.datetime.today()
    month, year = (todayDate.month-1, todayDate.year) if todayDate.month != 1 else (12, todayDate.year-1)
    start_dt = todayDate.replace(day=1, month=month, year=year)
    end_dt = datetime.datetime.today()

    results = []
    romeList = romeListArray.split(',')
    for k in romeList:
        if k[0:1] == ' ':
            k = k[1:]
        params = {"motsCles": k.replace('/', '').replace('-', '').replace(',', '').replace(' ', ','),'minCreationDate': dt_to_str_iso(start_dt),'maxCreationDate': dt_to_str_iso(end_dt),'range':'0-149'}
        try:
            search_on_big_data = client.search(params=params)
            results += search_on_big_data["resultats"]
        except:
            print("Il n'y a pas d'offres d'emploi.")

    #params = {"motsCles": romeListArray[0],'lieux':'75D','minCreationDate': dt_to_str_iso(start_dt),'maxCreationDate': dt_to_str_iso(end_dt),'range':'0-149'}
    #search_on_big_data = client.search(params=params)
    #results = search_on_big_data["resultats"]
    return results

@cl.step(name="connexion au modèle LLM", type="llm", show_input=True, language="python")
async def IA():
    anthropic = Anthropic(
            api_key=os.environ['ANTHROPIC_API_KEY'],
        )
    return anthropic

@literalai_client.step(type="run")
async def construction_NCS(romeListArray):
    context = await contexte(romeListArray)
    emploisST = cl.user_session.get("EmploiST")
    fichesMetiers = cl.user_session.get("FichesMetiers")
    chiffresclesST = cl.user_session.get("ChiffresClesST")
    ### Anthropic Completion ###
    client_anthropic = await IA()
    structure = str(modele('Note de composante sectorielle'))
    definitions = definition('activite') + ' ' + definition('competence')
    question ="""
    Peux-tu créer une note sectorielle d'après le modèle de note sectorielle précédent en respectant ses parties : 2., 2.1, 2.1.1, 2.2, 2.2.1, 2.2.2, 2.2.3 et d'après le contexte en vous réferrant strictement aux données du contexte fixé? Réponse sous forme d'un texte généré d'après le modèle et le contexte en 5000 mots et en langue française absolument.
    """
    with literalai_client.thread(thread_id=previous_thread_id) as thread:
        completion_NCS = client_anthropic.messages.create(
            model="claude-3-5-sonnet-20241022",
            max_tokens=4000,
            temperature=1,
            messages=[{
                "role": 'user', "content":  f"Contexte : Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant. En fonction des informations suivantes et du contexte suivant seulement et strictement. Contexte : {context}. {definitions} Modèle de note sectorielle : {structure}. Réponds en langue française strictement à la question suivante en respectant strictement les données du contexte. Si vous ne pouvez pas répondre à la question sur la base des informations, dites que vous ne trouvez pas de réponse ou que vous ne parvenez pas à trouver de réponse. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Ne générez pas de réponses non pertinentes. Si les informations du contexte sont insuffisantes, procédez à une projection sur le secteur, les entreprises et le marché de l'emploi, pour construire la note de composante sectorielle. Question : {question}"
            }]
        )
    await cl.sleep(2)
    await cl.Message(
        author="admin",content="Note de composante sectorielle de(s) code(s) ROME : " + romeListArray + "\n\n" + completion_NCS.content[0].text
    ).send()
    cl.user_session.set("NCS" + romeListArray, completion_NCS.content[0].text)
    cl.user_session.set("contextChatBot", context + "\n" + completion_NCS.content[0].text)
    
    await cl.sleep(1)
    listEmplois_name = f"Liste des emplois"
    text_elements = []
    text_elements.append(
        cl.Text(content="Code(s) ROME : " + romeListArray + "\n\nRéponse :\n" + emploisST.replace('Emploi : ','\n✔️ Emploi : ').replace('Contrat : ','\nContrat : ').replace('Compétences professionnelles : ','\nCompétences professionnelles : ').replace('Salaire : ','\nSalaire : ').replace('Qualification : ','\nQualification : ').replace('Description du poste : ','\nDescription du poste : '), name=listEmplois_name, display="side")
    )
    await cl.Message(author="admin",content="👨‍💼 Source France Travail : " + listEmplois_name, elements=text_elements).send()
    
    await cl.sleep(1)
    listchiffres_name = f"Les chiffres clés des métiers"
    chiffres_elements = []
    chiffres_elements.append(
        cl.Text(content="Code(s) ROME : " + romeListArray + "\n\n" + chiffresclesST, name=listchiffres_name, display="side")
    )
    await cl.Message(author="admin",content="👨‍💼 Source France Travail : " + listchiffres_name, elements=chiffres_elements).send()
    
    await cl.sleep(1)
    listMetier_name = f"Les fiches métiers"
    metier_elements = []
    metier_elements.append(
        cl.Text(content="Code(s) ROME : " + romeListArray + "\n\n" + fichesMetiers, name=listMetier_name, display="side")
    )
    await cl.Message(author="admin",content="👨‍💼 Source France Travail : " + listMetier_name, elements=metier_elements).send()
    
    await cl.sleep(1)
    datavizEmploi = [
        cl.Action(name="datavizEmploi", value=romeListArray, description="Afficher la datavisualisation du marché de l'emploi", tooltip="Afficher la datavisualisation du marché de l'emploi")
    ]
    await cl.Message(author="admin",content="📊 Afficher la datavisualisation du marché de l'emploi", actions=datavizEmploi).send()
    
    await cl.sleep(1)
    datavizChiffresClesMetiers = [
        cl.Action(name="datavizChiffresClesMetiers", value=romeListArray, description="Afficher la datavisualisation des chiffres clés des métiers", tooltip="Afficher la datavisualisation des chiffres clés des métiers")
    ]
    await cl.Message(author="admin",content="📊 Afficher la datavisualisation des chiffres clés des métiers", actions=datavizChiffresClesMetiers).send()
    
    NCS_name = f"Lire la note sectorielle"
    NCS_elements = []
    NCS_elements.append(
        cl.Text(content="Code(s) ROME : " + romeListArray + "\n\n" + completion_NCS.content[0].text, name=NCS_name, display="side")
    )
    await cl.Message(author="admin",content="📚 Chaîne documentaire APCC : " + NCS_name, elements=NCS_elements).send()
    
    return "Construction de la Note Sectorielle"

@literalai_client.step(type="run")
async def construction_FCS(romeListArray,settings):
    if cl.user_session.get("NCS" + romeListArray):
        goFCS = await cl.AskActionMessage(
            content="Voulez-vous téléverser votre propre document de Note sectorielle?",
            actions=[
                cl.Action(name="continue", value="continue", description="✅ Oui, je veux charger ma note sectorielle pour modifier le contexte"),
                cl.Action(name="cancel", value="cancel", description="❌ Non, je veux continuer avec la version du contexte en cours"),
            ],
        ).send()

        if goFCS and goFCS.get("value") == "continue":
            files = None
            while files == None:
                files = await cl.AskFileMessage(
                    content="Télécharger votre document de note sectorielle (⚠️ Attention, le contexte initial sera modifié!)", accept=["text/plain", "application/pdf"],max_size_mb=2
                ).send()

            text_file = files[0]
            text_file_string = process_file(text_file)
            text_file_string = text_file_string[0].page_content
            cl.user_session.set("NCS" + romeListArray, str(text_file_string))
            getChain = "NCS" + romeListArray + " : " + str(text_file_string)
        else:
            getChain = await recuperation_contexte("NCS" + romeListArray)
        client_anthropic = await IA()
        question ="""
        1) Extrais de la note de composante sectorielle du contexte, seulement et strictement la liste des 5 appellations métiers principales et écris-la au format liste formée de 5 lignes de ces mêmes métiers, sans phrase d'introduction de type \"Voici...\" et sans y apporter plus de précision quant à la génération de la note de composante sectorielle; la liste devant se termniner par la dernière appellation métier.
        2) En fonction des 5 appellations métiers du secteur listées dans le document précédent correspondant à la note de composante sectorielle, crée une fiche synoptique sous forme d'une fiche descriptive très détaillée et très complète, en 5000 mots, comprenant une liste numérotées de 5 activités professionnelles différentes bien décrites, entrecoupées elles-mêmes par une sous-liste numérotées, imbriquée dans chaque liste activité professionnelle, de 5 compétences professionnelles distinctes et bien décrites commençant par un verbe d'action conformément à la taxonomie de Bloom, marquant une progression dans l'acquisition des compétences.
        """
        with literalai_client.thread(thread_id=previous_thread_id) as thread:
            completion_FCS = client_anthropic.messages.create(
                model="claude-3-5-sonnet-20240620",
                max_tokens=5000,
                temperature=1,
                messages=[{
                    "role": 'user', "content":  f"Contexte : Réponds aux questions suivantes en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Contexte: Définition d'une activité : une activité est un ensemble cohérent d'actions combinées : pour la réaliser, plusieurs compétences et opérations sont nécessaires, soit successivement, soit conjointement. Elles s'inscrivent à des moments clés du processus de réalisation et ne peuvent en aucun cas être occultées, car elles conditionnent le résultat. Plusieurs activités en vue d'une finalité avec une valeur ajoutée à un produit ou un service sont nécessaires pour mettre en œuvre un processus métier. De ce fait, il est essentiel de déterminer pour chaque activité sa propre finalité et de s'assurer que l'ensemble des activités participent bien d'un même processus. Définition d'une compétence : la compétence est une combinaison de savoirs en action, mobilisés en vue de réaliser une activité professionnelle. Elle s'apprécie, en tant qu'acquis de l'apprentissage selon des modalités adaptées permettant d'en certifier la possession et au regard de l'atteinte d'un résultat pour un niveau d'exigence prédéterminé. Les compétences peuvent être regroupées par domaines selon la nature et leur liaison subordonnée aux activités. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Note de composante sectorielle : {getChain}. Questions : {question}"
                }]
            )
        completionFCS = completion_FCS.content[0].text
        await cl.sleep(2)
        await cl.Message(
            author="admin",content="Fiche synoptique : " + romeListArray + "\n\n" + completionFCS
        ).send()
        cl.user_session.set("FCS" + romeListArray, completionFCS)
        cl.user_session.set("contextChatBot", getChain + "\n" + completionFCS)
        await cl.sleep(1)
        
        FCS_name = f"Lire la fiche synoptique"
        FCS_elements = []
        FCS_elements.append(
            cl.Text(content="Code(s) ROME : " + romeListArray + "\n\n" + completionFCS, name=FCS_name, display="side")
        )
        await cl.Message(author="admin",content="📚 Chaîne documentaire APCC : " + FCS_name, elements=FCS_elements).send()
    
    else:
        await cl.Message(
            author="admin",content="⛔ Vous n'avez pas encore créé de Note sectorielle!"
        ).send()
    return "Construction de la Fiche Synoptique"

@literalai_client.step(type="run")
async def construction_FCA(romeListArray,settings):
    if cl.user_session.get("FCS" + romeListArray) and settings['activiteInput']:
        if cl.user_session.get("FCSOK") == None:
            goFCS = await cl.AskActionMessage(
                        content="Voulez-vous téléverser votre propre document de Fiche Synoptique?",
                        actions=[
                            cl.Action(name="continue", value="continue", description="✅ Oui, je veux charger ma Fiche Synoptique pour modifier le contexte"),
                            cl.Action(name="cancel", value="cancel", description="❌ Non, je veux continuer avec la version du contexte en cours"),
                        ],
                    ).send()
            if goFCS and goFCS.get("value") == "continue":
                files = None
                while files == None:
                    files = await cl.AskFileMessage(
                        content="Télécharger votre document de Fiche Synoptique (⚠️ Attention, le contexte initial sera modifié!)", accept=["text/plain", "application/pdf"],max_size_mb=2
                    ).send()

                text_file = files[0]
                text_file_string = process_file(text_file)
                text_file_string = text_file_string[0].page_content
                cl.user_session.set("FCS" + romeListArray, str(text_file_string))
                getChain = "FCS" + romeListArray + " : " + str(text_file_string)
                cl.user_session.set("FCSOK", "OK")
            else:
                getChain = await recuperation_contexte("FCS" + romeListArray)
        else:
            getChain = await recuperation_contexte("FCS" + romeListArray)
        client_anthropic = await IA()
        ficheSynoptique = getChain
        activiteSingle = settings['activiteInput']
        
        question = f"En fonction de l'activité : {activiteSingle}, issue du document précédent correspondant à la fiche synoptique, crée une fiche activité très détaillée et très complète de l'activité professionnelle précédente, en se fixant sur les mots de l'intitulé de cette même activité professionnelle, en 5000 mots et 5 paragraphes comportant les paragraphes suivants : 1. définition de l'activité pour indiquer la finalité de l'activité en terme de service ou de produit (commentaire : tu écris le texte qui doit commencer par «le professionnel qui ...» et qui doit prendre en compte les compétences transversales du synoptique si elles sont mentionnées), 2. description pour indiquer les étapes du processus métier en décrivant la combinatoire entre les principales compétences de l'activité et en indiquant les actions et les opérations avec les ressources et les moyens nécessaires pour finalement décrire les relations hiérarchiques et fonctionnelles des interlocuteurs (commentaire : tu écris le texte, avec un style descriptif sans liste ordonnée, qui doit prendre en compte les compétences professionnelles du synoptique et correspondantes à l'activité professionnelle), 3. contextualisation pour indiquer les conditions d'exercice de l'activité : lieu mobilité risques astreintes, 4. Synthèse des processus métiers, 5. liste des compétences professionnelles de l'activité (commentaire : tu écris le texte qui doit prendre en compte les compétences professionnelles du synoptique et correspondantes à l'activité professionnelle), 6. compétences transversales de l'activité (commentaire : tu écris chaque compétence transversale en commençant par un verbe d'action tout en prenant en compte les compétences transversales du synoptique lorsqu'elles sont mentionnées)."
        with literalai_client.thread(thread_id=previous_thread_id) as thread:
            completion_FCA = client_anthropic.messages.create(
                model="claude-3-5-sonnet-20240620",
                max_tokens=4000,
                temperature=1,
                messages=[{
                    "role": 'user', "content":  f"Contexte : Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Contexte: Définition d'une activité : une activité est un ensemble cohérent d'actions combinées : pour la réaliser, plusieurs compétences et opérations sont nécessaires, soit successivement, soit conjointement. Elles s'inscrivent à des moments clés du processus de réalisation et ne peuvent en aucun cas être occultées, car elles conditionnent le résultat. Plusieurs activités en vue d'une finalité avec une valeur ajoutée à un produit ou un service sont nécessaires pour mettre en œuvre un processus métier. De ce fait, il est essentiel de déterminer pour chaque activité sa propre finalité et de s'assurer que l'ensemble des activités participent bien d'un même processus. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Fiche synoptique : {ficheSynoptique}. Questions : {question}"
                }]
            )
        await cl.sleep(3)
        await cl.Message(
            author="admin",content="Fiche activité : " + activiteSingle + "\n\n" + completion_FCA.content[0].text
        ).send()
        cl.user_session.set("FCA" + romeListArray, completion_FCA.content[0].text)
        cl.user_session.set("contextChatBot", ficheSynoptique + "\n" + completion_FCA.content[0].text)
        await cl.sleep(1)
        
        FCA_name = f"Lire la fiche Activité"
        FCA_elements = []
        FCA_elements.append(
            cl.Text(content="Code(s) ROME : " + romeListArray + "\n\n" + completion_FCA.content[0].text, name=FCA_name, display="side")
        )
        await cl.Message(author="admin",content="📚 Chaîne documentaire APCC : " + FCA_name, elements=FCA_elements).send()
               
    else:
        await cl.Message(
            author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Fiche synoptique ou saisi votre Activité professionnelle!"
        ).send()
    return "Construction de la Fiche Activité" + activiteSingle

@literalai_client.step(type="run")
async def construction_FCC(romeListArray,settings):
    if cl.user_session.get("FCS" + romeListArray) and settings['competenceInput']:
        getChain = await recuperation_contexte("FCS" + romeListArray)
        client_anthropic = await IA()
        ficheSynoptique = getChain
        competenceSingle = settings['competenceInput']
        
        question = f"En fonction de la compétence : {competenceSingle}, issue du document précédent correspondant à la fiche synoptique, crée une fiche compétence très détaillée et très complète de la compétence professionnelle précédente, en se fixant sur les mots de l'intitulé de cette même compétence professionnelle, en 5000 mots et 5 paragraphes comportant les paragraphes suivants : 1. description de la compétence et le processus de la mise en oeuvre dans laquelle seront identifiées les situations susceptibles de déclencher la mise en oeuvre des tâches et la mobilisation des savoirs (commentaire : tu écris le texte, avec un style descriptif sans liste ordonnée, en identifiant au préalable le ou les déclencheurs qui sont nécessaires et à l'origine de la prise d'initiative et du déroulement des actions ainsi que le ou les processus de mise en oeuvre et pourquoi), 2. contexte exposant les conditions et les contraintes d'exécution ainsi que les environnements techniques (commentaire : tu écris le texte avec un style descriptif sans liste ordonnée), 3. critères exposant les critères de réussite de l'action et correspondant à une pertinence une efficience une efficacité une cohérence, 4. liste des savoirs et savoir-faire et savoirs comportementaux."
        with literalai_client.thread(thread_id=previous_thread_id) as thread:
            completion_FCC = client_anthropic.messages.create(
                model="claude-3-5-sonnet-20240620",
                max_tokens=4000,
                temperature=1,
                messages=[{
                    "role": 'user', "content":  f"Contexte : Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Contexte: Définition d'une compétence : la compétence est une combinaison de savoirs en action, mobilisés en vue de réaliser une activité professionnelle. Elle s'apprécie, en tant qu'acquis de l'apprentissage selon des modalités adaptées permettant d'en certifier la possession et au regard de l'atteinte d'un résultat pour un niveau d'exigence prédéterminé. Les compétences peuvent être regroupées par domaines selon la nature et leur liaison subordonnée aux activités. Elles s'écrivent à l'aide de verbe d'action à l'infinitif comme le stipule la taxonomie de Bloom pour marquer une progression dans l'exercice de la compétence. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Fiche synoptique : {ficheSynoptique}. Questions : {question}"
                }]
            )
        await cl.sleep(3)
        await cl.Message(
            author="admin",content="Fiche compétence : " + competenceSingle + "\n\n" + completion_FCC.content[0].text
        ).send()
        cl.user_session.set("FCC" + romeListArray, completion_FCC.content[0].text)
        cl.user_session.set("contextChatBot", ficheSynoptique + "\n" + completion_FCC.content[0].text)
        await cl.sleep(1)
        
        FCC_name = f"Lire la fiche Compétence"
        FCC_elements = []
        FCC_elements.append(
            cl.Text(content="Code(s) ROME : " + romeListArray + "\n\n" + completion_FCC.content[0].text, name=FCC_name, display="side")
        )
        await cl.Message(author="admin",content="📚 Chaîne documentaire APCC : " + FCC_name, elements=FCC_elements).send()
        
    else:
        await cl.Message(
            author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Fiche synoptique ou saisi votre Compétence professionnelle!"
        ).send()
    return "Construction de la Fiche Compétence : " + competenceSingle

@literalai_client.step(type="run")
async def construction_FPPS(romeListArray,settings):
    if cl.user_session.get("NCS" + romeListArray) and cl.user_session.get("FCS" + romeListArray):
        goFPPS1 = await cl.AskUserMessage(content="A partir de quelle formation, voulez-vous construire la Fiche Potentiel et Profil de Sortie?", timeout=120).send()
        if goFPPS1:
            goFPPS2 = await cl.AskUserMessage(content="A partir de quel(s) code(s) ROME, voulez-vous construire la Fiche Potentiel et Profil de Sortie?", timeout=120).send()
            if goFPPS2:
                docsearch = await vectorOFDatabase_connexion()
                retrieve = docsearch.similarity_search(goFPPS1['output'], k=5, filter={'categorie': {'$eq': 'OF'}})
                infoFormation = ''
                for i in range(0,len(retrieve)):
                    infoFormation += '\n' + retrieve[i].page_content
                noteSectorielle = await recuperation_contexte("NCS" + romeListArray)
                ficheSynoptique = await recuperation_contexte("FCS" + romeListArray)
                intituleFormation = goFPPS1['output']
                codesRome = goFPPS2['output']
                client_anthropic = await IA()
                question =f"En fonction du contexte intégrant les descriptifs de formation, la note de composante sectorielle et la fiche synoptique, crée une fiche Potentiel Profil de Sortie sous forme d'une fiche descriptive très détaillée et très complète, construite d'après le modèle et la structure de document suivante. Structure de document : {str(modele('Fiche Potentiel Profil de Sortie'))}"
                with literalai_client.thread(thread_id=previous_thread_id) as thread:
                    completion_FPPS = client_anthropic.messages.create(
                        model="claude-3-5-sonnet-20240620",
                        max_tokens=4000,
                        temperature=1,
                        messages=[{
                            "role": 'user', "content":  f"Contexte : Réponds à la question suivante en utilisant le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez en vous basant sur les informations fournies. Contexte: Descriptifs de formation : {infoFormation}. Note de composante sectorielle : {noteSectorielle}. Fiche Synoptique : {ficheSynoptique}. Intitulé de la formation : {intituleFormation}. Codes ROME : {codesRome}. Questions : {question}"
                        }]
                    )
                await cl.sleep(0.5)
                await cl.Message(
                    author="admin",content="Fiche Potentiel Profil de sortie : " + romeListArray + "\n\n" + completion_FPPS.content[0].text
                ).send()
                cl.user_session.set("FPPS" + romeListArray, completion_FPPS.content[0].text)
                cl.user_session.set("contextChatBot", "Note sectorielle" + noteSectorielle + "\nFiche syoptique" + ficheSynoptique + "\nFiche Potentiel Profil de sortie" + completion_FPPS.content[0].text)
                await cl.sleep(1)
        
                FPPS_name = f"Lire la fiche Potentiel Profil de Sortie"
                FPPS_elements = []
                FPPS_elements.append(
                    cl.Text(content="Code(s) ROME : " + romeListArray + "\n\n" + completion_FPPS.content[0].text, name=FPPS_name, display="side")
                )
                await cl.Message(author="admin",content="📚 Chaîne documentaire APCC : " + FPPS_name, elements=FPPS_elements).send()
                
    else:
        await cl.Message(
            author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Note sectorielle ou de Fiche Synoptique!"
        ).send()
    return "Construction de la Fiche Potentiel Profil de Sortie"

@cl.on_chat_start
async def on_chat_start():
    app_user = cl.user_session.get("user")
    welcomeUser = app_user.identifier
    welcomeUserArray = welcomeUser.split('@')
    welcomeUserStr = welcomeUserArray[0].replace('.',' ')
    await cl.Message(f"> Bonjour {welcomeUserStr}").send()
    
    await cl.Message(
        author="admin", content="💡 Cliquez sur l'icône Paramètres dans la zone de message, pour sélectionner vos codes ROME."
    ).send()
    await cl.Message(
        author="admin", content="💡 Lorsque vous aurez saisi vos codes ROME, cliquer sur valider pour commencer la création des premières notes et fiches."
    ).send()
    settings = await cl.ChatSettings(
        [
            TextInput(id="ROME", label="Codes ROME", placeholder="exemple : M1707,E1103,M1703,E1401,M1705", description="Séparez les codes par des virgules sans espace", tooltip="Séparez les codes par des virgules sans espace"),
            Select(
                id="APCC",
                label="Chaîne documentaire APCC",
                description="Seulement lorsque la fiche synoptique est générée, vous pouvez sélectionner la fiche synoptique ou la fiche Activité ou la fiche Compétence pour génération",
                values=["Aucune", "NCS", "FCS", "FCA", "FCC", "FPPS"],
                initial_index=1,
            ),
            TextInput(id="activiteInput", label="Saisir une activité professionnelle", placeholder="Saisir une activité professionnelle", description="Seulement lorsque la fiche synoptique est générée, vous pouvez saisir votre propre activité professionnelle pour en avoir un descriptif détaillé", tooltip="Seulement lorsque la fiche synoptique est générée, saisir votre propre activité professionnelle pour en avoir un descriptif détaillé"),
            TextInput(id="competenceInput", label="Saisir une compétence professionnelle", placeholder="Saisir une compétence professionnelle", description="Seulement lorsque la fiche synoptique est générée, vous pouvez saisir votre propre compétence professionnelle pour en avoir un descriptif détaillé", tooltip="Seulement lorsque la fiche synoptique est générée, saisir votre propre compétence professionnelle pour en avoir un descriptif détaillé"),
        ]
    ).send()
    
    
    cl.user_session.set("APCC", settings['APCC'])
    print("Paramètres : " + settings['APCC'])
    contextChat = cl.user_session.get("contextChatBot")
    if not contextChat:
        contextChat = "Il n'y a pas de contexte."
        #model = ChatOpenAI(streaming=True)
    if settings['APCC'] == "Aucune":
        model = ChatAnthropic(
            temperature=1,
            model_name="claude-3-5-sonnet-20240620"
        )
        prompt = ChatPromptTemplate.from_messages(
            [
                (
                    "system",
                    f"Contexte : Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant. En fonction des informations suivantes et du contexte suivant seulement et strictement. Contexte : {contextChat}. Réponds à la question suivante de la manière la plus pertinente, la plus exhaustive et la plus détaillée possible, avec au minimum 3000 tokens jusqu'à 4000 tokens, seulement et strictement dans le contexte et les informations fournies. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies.",
                ),
                MessagesPlaceholder(variable_name="history"),
                ("human", "{question}"),
            ]
        )
        runnable = prompt | model | StrOutputParser()
        with_message_history = RunnableWithMessageHistory(
            runnable,
            get_session_history,
            input_messages_key="question",
            history_messages_key="history",
        )
        cl.user_session.set("runnable", with_message_history)

@cl.on_settings_update
async def setup_agent(settings):
    print("on_settings_update", settings)
    if not settings['ROME'] and settings['APCC'] != "Aucune":
        await cl.Message(
            author="admin",content=f"⚠️ Pas de contexte : vous n'avez pas saisi de codes ROME\n👍 Type de fiche : {settings['APCC']}\n⛔ Vous ne pouvez pas élaborer de fiche!"
        ).send()
    elif settings['ROME'] and settings['APCC'] == "Aucune":
        await cl.Message(
            author="admin",content=f"👍 Contexte : {settings['ROME']}\n⚠️ Type de fiche : vous n'avez pas sélectionné le type de fiche à générer\n⛔ Vous ne pouvez pas élaborer de fiche!"
        ).send()
    elif not settings['ROME'] and settings['APCC'] == "Aucune":
        await cl.Message(
            author="admin",content=f"⚠️ Pas de contexte : vous n'avez pas saisi de codes ROME\n⚠️ Type de fiche : vous n'avez pas sélectionné le type de fiche à générer\n⛔ Vous ne pouvez pas élaborer de fiche!"
        ).send()
    else:
        await cl.Message(
            author="admin",content=f"👍 Contexte : {settings['ROME']}\n👍 Type de fiche : {settings['APCC']}"
        ).send()
        romeList = settings['ROME']
        romeListArray = romeList.replace(' ','')
        cl.user_session.set("typeDoc", settings['APCC'])
        if settings['APCC'] == 'NCS':
            await construction_NCS(romeListArray)
        elif settings['APCC'] == 'FCS':
            await construction_FCS(romeListArray,settings)
        elif settings['APCC'] == 'FCA':
            await construction_FCA(romeListArray,settings)
        elif settings['APCC'] == 'FCC':
            await construction_FCC(romeListArray,settings)
        elif settings['APCC'] == 'FPPS':
            await construction_FPPS(romeListArray,settings)
    contextChat = cl.user_session.get("contextChatBot")
    if not contextChat:
        contextChat = "Il n'y a pas de contexte."
    model = ChatAnthropic(
        temperature=1,
        model_name="claude-3-5-sonnet-20241022"
    )
    prompt = ChatPromptTemplate.from_messages(
        [
            (
                "system",
                f"Contexte : Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant. En fonction des informations suivantes et du contexte suivant seulement et strictement. Contexte : {contextChat}. Réponds à la question suivante de la manière la plus pertinente, la plus exhaustive et la plus détaillée possible, avec au minimum 3000 mots jusqu'à 5000 mots, seulement et strictement dans le contexte et les informations fournies. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies.",
            ),
            MessagesPlaceholder(variable_name="history"),
            ("human", "{question}, dans le contexte fourni."),
        ]
    )
    runnable = (
        prompt
        | model
        | StrOutputParser()
    )
    with_message_history = RunnableWithMessageHistory(
        runnable,
        get_session_history,
        input_messages_key="question",
        history_messages_key="history",
    )
    cl.user_session.set("runnable", with_message_history)
    
@cl.on_message
async def on_message(message: cl.Message):
    runnable = cast(Runnable, cl.user_session.get("runnable"))  # type: Runnable
    msg = cl.Message(content="")
    text_elements = []
    answer = []
    answer_prefix_tokens=["FINAL", "ANSWER"]
    async for chunk in runnable.astream(
        {"question": message.content},
        config={"callbacks": [cl.LangchainCallbackHandler(stream_final_answer=True, answer_prefix_tokens=answer_prefix_tokens,)], "configurable": {"session_id":cl.user_session.get("id")}},
    ):
        await msg.stream_token(chunk)

    await msg.send()
    
    QA_context_name = f"Question-réponse sur le contexte"
    text_elements.append(
        cl.Text(content="Question : " + message.content + "\n\nRéponse :\n" + msg.content, name=QA_context_name)
    )
    await cl.Message(author="admin",content="Contexte : " + QA_context_name, elements=text_elements).send()