Large Language Models

PrivateGPT: un chatgpt gratuit installé sur votre ordinateur

Avec PrivateGPT, savez-vous que vous pouvez désormais installer sur votre ordinateur, un chatbot (presque) aussi performant que ChatGPT s'appuyant sur les données de votre ordinateur et non sur les "connaissances" standards de GPT4 ?

Triple avantage de PrivateGPT

💪 Sécurité des données

💪 Souveraineté sur vos données

💪 Coût (on ne parle jamais du coût de l'API de ChatGPT, mais c'est un gros sujet)

La suite de la démocratisation des LLM Open Source

J'ai déjà évoqué du fait que les Large Language models (LLM) qui font tourner ChatGPT ou Bard, étaient concurrencés depuis mars par de nouveaux LLMs Open Source (LLama, Stable LM, XGEN, OpenChatKit) qui sont venus rejoindre Bloom.

C'était une étape fondamentale vers la démocratisation de cette techno.

Créer des chatgpts privés et sur mesure

Mais les entreprises doivent, pour créer leur chatbot "privés" sur base de ces LLMs Open Source:

🔨 Entraîner les LLMs sur leur propres données internes (FAQ, CGV, fiches produits...)

🔨 Développer une surcouche conversationnelle (pour les transformer en chatbot)

🔨 Créer une interface conviviale

PrivateGPT représente une étape supplémentaire, qui permet aux 'dégourdis", de créer leur propre chatbot puisqu'il permet d'intégrer, sans coder, les documents de votre ordinateur dans le chatbot.

Par exemple, j'ai, sur mon ordinateur, 25 ans d'archives incluant

📄 propositions commerciales

📄 recommandations

📄 formations

📄 des milliers d'articles

📄 le texte des 4 bouquins que j'ai écrits

📄 des centaines d'ebooks que j'ai téléchargés

📄 procédure

📄 tableaux de bord

...

Tout cela peut être "ingéré" par PrivateGPT, que je pourrai ensuite interroger.

Les limites de PrivateGPT

🔦 Je n'ai pas testé PrivateGPT, donc aucun recul sur ses performances

🔦 Il n'y a pas besoin de coder, mais il faut que Git et Python tourne sur votre ordi

🔦 L'interface n'est pas conviviale

Précisions pour les geeks

🔦PrivateGPT permet de faire tourner GPT4all, Vicuna 13B et Koala 7B

🔦 Il faut être un peu dégourdis pour l'installer sur son ordi

Search