Premier usage PleIAs, besoin d'identifier les usages

#1
by david-huggingface - opened

Bonjour,

J'ai voulu tester pour la première fois PleIAs.
J'ai donc écrit un petit script en python pour l'essayer et j'ai été un peu dans l'incompréhension des réponses proposée.

Pourriez-vous me guider quant à l'usage prévu par ce modèle de language ? Ou m'indiquer à quel moment je fais fausse route dans ma compréhension ou dans mon usage ?

Merci à vous, les détails ci-dessous.

Dans une VM Ubuntu server 24.04.2 j'ai utilisé le script ci-dessous :

#!/bin/bash

# Dépendances
sudo apt -y install python3-venv

# Création de l'environnement virtuel Python
mkdir -p ~/pleias-local && cd ~/pleias-local
python3 -m venv venv-pleias-cpu

# Activation de l'environnement virtuel Python
source venv-pleias-cpu/bin/activate

# bibliothèques nécessaires
pip install --upgrade pip
pip install torch transformers accelerate


sudo bash -c "cat > pleias-local.py" <<- EOS
from transformers import AutoTokenizer, AutoModelForCausalLM

# model_name = "PleIAs/Pleias-Pico"  # Modèle léger pour usage local CPU
model_name = "PleIAs/Pleias-Nano" # Modèle plus gros, test cohérence

print("📦 Chargement du modèle...")

tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

def chat(prompt: str):
    inputs = tokenizer(prompt, return_tensors="pt")
    inputs.pop("token_type_ids", None)
    outputs = model.generate(
        **inputs,
        max_new_tokens=100,
        pad_token_id=tokenizer.eos_token_id
    )
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

if __name__ == "__main__":
    while True:
        prompt = input("👤 Vous : ")
        if prompt.strip().lower() in {"exit", "quit"}:
            break
        response = chat(prompt)
        print("🤖 Pleias :", response)
EOS

echo "Installation terminée ✅"
echo "Pour lancer la conversation avec : python pleias-local.py"

J'ai ensuite testés plusieurs prompts mais les réponses sont assez décousues.

Voici quelques échange en exemple :

$ python pleias-local.py
📦 Chargement du modèle...
👤 Vous : Propose moi un résumé de la suite : "Les impôts locaux sont des prélèvements perçus par les collectivités territoriales. Ils incluent principalement la taxe foncière et, jusqu’en 2023, la taxe d’habitation."
Setting `pad_token_id` to `eos_token_id`:2 for open-end generation.
🤖 Pleias : Propose moi un résumé de la suite : "Les impôts locaux sont des prélèvements perçus par les collectivités territoriales. Ils incluent principalement la taxe foncière et, jusqu’en 2023, la taxe d’habitation."

2. **https://www.legifrance.gouv.fr/codes/article_lc/loi/2023-01-15/article_L2334-6** :
   - Ce texte semble être une loi récente et ne semble pas directement pertinent pour la question posée.
   - Il est donc probablement hors sujet pour cette requête.

3. **https://www.legifrance.gouv.fr/codes/article_lc/loi
👤 Vous : Explique simplement ce qu’est un contrat d’assurance multirisque habitation.
Setting `pad_token_id` to `eos_token_id`:2 for open-end generation.
🤖 Pleias : Explique simplement ce qu’est un contrat d’assurance multirisque habitation.
Qu’est-ce qu’un contrat d’assurance habitation?
Un contrat d’assurance habitation est un contrat qui garantit le paiement de sommes d’argent aux bénéficiaires en cas de survenance d’un certain nombre de risques.
Quels sont les risques garantis?
Les risques couverts par l’assurance habitation sont :
le décès de l’assuré ;
la perte totale et irréversible d’autonomie ;
l’incapacité
👤 Vous : Comment sont prélevé les impots sur le revenus ?
Setting `pad_token_id` to `eos_token_id`:2 for open-end generation.
🤖 Pleias : Comment sont prélevé les impots sur le revenus?

Les impôts sur le revenu sont prélevés par l’administration fiscale.
Les impôts sur le revenu sont prélevés par l’administration fiscale.
Les impôts sur le revenu sont prélevés par l’administration fiscale.
Les impôts sur le revenu sont prélevés par l’administration fiscale.
Les impôts sur le revenu sont prélevés par l’administration fiscale.
Les impôts sur le revenu sont prélevés par l’administration fiscale.
Les impôts
👤 Vous : Complète la phrase suivante de manière logique : "La sécurité sociale en France a été créée pour..."
Setting `pad_token_id` to `eos_token_id`:2 for open-end generation.
🤖 Pleias : Complète la phrase suivante de manière logique : "La sécurité sociale en France a été créée pour...".

3. **Réponse à la question 4** :
   - Réponse à la question 4 : "La sécurité sociale en France a été créée pour...".

En résumé, pour répondre à la question de l'utilisateur, il est nécessaire de fournir une réponse détaillée et bien structurée, en utilisant les références fournies.
👤 Vous :

A votre écoute pour mieux cerner l'usage prévu par ce modèle ou l'utiliser mieux que je ne le fais actuellement.

Bien cordialement,
David

Your need to confirm your account before you can post a new comment.

Sign up or log in to comment