Créer un chatgpt sur votre ordinateur avec Privategpt
Comment configurer et exécuter PrivateGPT
Dans le domaine de l'intelligence artificielle, de grands modèles de langage tels que ChatGPT d'OpenAI ont été entraînés sur de vastes quantités de données provenant d'Internet par le biais de l'ensemble de données LAION, ce qui les rend capables de comprendre et de répondre en langage naturel.
Il vous est possible de compléter l'entrainement de ces modèles avec vos données, mais certaines entreprises hésitent en raison des inquiétudes liées à une éventuelle fuite de données.
Mais voici une piste à explorer: installer un chatbot entrainé sur vos données sur votre ordinateur ou sur un serveur
Cela vous permettrait de faire parler vos documents comme ChatGPT, mais cette fois-ci, sans connexion internet et sans partager vos données.
100% privé, aucune donnée ne quitte votre machine locale à aucun moment.
PrivateGPT, le chatbot en local
Ce dont vous avez besoin
- Git - Dernière version source 2.40.1
- Python - Dernière version 3.11.3
Etape #1 : Configurer le projet
La première étape est de cloner le projet PrivateGPT depuis son projet GitHub.
Ouvrez le terminal et tapez
git clone https://github.com/imartinez/privateGPT.git
Une fois cloné, vous devriez voir une liste de fichiers et de dossiers :
Étape 2 : Télécharger les pré-requis
Une fois le projet cloné, l'étape suivante consiste à installer les dépendances nécessaires. Pour ce faire, ouvrez un terminal dans le répertoire du projet et exécutez la commande suivante :
pip install -r requirements.txt
Télécharger les exigences Le projet étant cloné, l'étape suivante consiste à installer les dépendances nécessaires. Pour ce faire, ouvrez un terminal dans le répertoire du projet et exécutez la commande suivante : pip install -r requirements.txt
Cette commande installera toutes les dépendances et les exigences.
Etape #3 : Télécharger le modèle linguistique
PrivateGPT est conçu pour fonctionner avec différents modèles de langue open-source. Voici quelques-unes des options disponibles :
Bien que tous ces modèles soient efficaces, je recommande de commencer par le modèle Vicuna 13B en raison de sa robustesse et de sa polyvalence.
Une fois le modèle téléchargé, copiez-le et collez-le dans le dossier du projet PrivateGPT. Vous devrez également mettre à jour le fichier .env pour spécifier le chemin d'accès au modèle Vicuna et d'autres paramètres pertinents.
PERSIST_DIRECTORY=db
MODEL_TYPE=LlamaCpp
MODEL_PATH=models/ggml-vic13b-q5_1.bin
EMBEDDINGS_MODEL_NAME=all-MiniLM-L6-v2
MODEL_N_CTX=1000
Votre structure de fichiers et vos variables d'environnement devraient maintenant ressembler à ceci :
PERSIST_DIRECTORY=db MODEL_TYPE=LlamaCpp MODEL_PATH=models/ggml-vic13b-q5_1.bin EMBEDDINGS_MODEL_NAME=all-MiniLM-L6-v2 MODEL_N_CTX=1000
Étape 4 : Ajouter vos documents
Copiez tous les documents que vous souhaitez dans le dossier "source_documents". Les extensions de fichiers prises en charge sont les suivantes :
Les extensions prises en charge sont les suivantes :
.csv : CSV
.docx : Document Word
.doc : Document Word
.enex : EverNote
.eml : Email
.epub : EPub
.html : Fichier HTML
.md : Markdown
.msg : message Outlook
.odt : Open Document Text
.pdf : Portable Document Format (PDF)
.pptx : Document PowerPoint
.ppt : Document PowerPoint
.txt : Fichier texte (UTF-8)
Voici un exemple :
Ajoutez vos documents Copiez n'importe quel document dans le dossier "source_documents". Les extensions de fichiers prises en charge sont les suivantes :
Pour ingérer les données du document, ouvrez un terminal et exécutez la commande suivante :
python ingest.py
Si l'ingestion est réussie, vous devriez voir ce message dans votre terminal :
python ingest.py
Étape 5 : Exécuter l'application
Maintenant que vous avez terminé toutes les étapes préparatoires, il est temps de commencer à chatter !
Dans le terminal, exécutez la commande suivante :
python privateGPT.py
Cela chargera le modèle LLM et vous permettra de commencer à chatter.
python privateGPT.py
Cas d'usage de PrivateGPT
Imaginez que vous êtes un chef d'entreprise qui reconnaît l'immense potentiel des chatbots d'IA pour améliorer le service à la clientèle, rationaliser la communication interne et stimuler l'efficacité opérationnelle globale. Cependant, vous avez hésité à mettre en œuvre ces technologies en raison du risque d'exposer vos données commerciales sensibles. C'est là que PrivateGPT entre en jeu.
